Модели разума. Как физика, инженерия и математика сформировали наше понимание мозга [Lindsay Grace] (fb2) читать онлайн

В то время, когда Семон писал свои работы, память только недавно стала объектом научного изучения, и большинство результатов касались исключительно навыков запоминания, а не биологии. Например, людей обучали запоминать пары бессмысленных слов (таких как "wsp" и "niq"), а затем проверяли их способность восстановить второе слово, когда им подсказывали первое. Этот тип памяти, известный как ассоциативная память, станет объектом исследований на десятилетия вперед. Но Семону было интересно не только поведение: он хотел узнать, какие изменения в физиологии животного могут поддерживать такую ассоциативную память.

Опираясь на скудные экспериментальные данные, он разделил процесс создания и восстановления воспоминаний на множество компонентов. Находя обычные слова слишкоми перегруженными, он создал новые термины для обозначения этих разделов работы. Слово, ставшее таким влиятельным, "энграмма", было определено как "устойчивое, хотя в основном латентное изменение в раздражительной субстанции, вызванное стимулом". Или, говоря проще, физические изменения в мозге, которые происходят при формировании воспоминаний. Другой термин, "экфория", был отнесен к "влияниям, которые пробуждают мнемический след или энграмму из ее латентного состояния в состояние проявленной активности". Это различие между энграммой и экфорией (или между процессами, которые закладывают память, и процессами, которые ее извлекают) было одним из многих концептуальных достижений, которые обеспечила работа Семона. Несмотря на то, что его имя и большая часть его языка исчезли из литературы, многие концептуальные идеи Сэмона были верны, и они составляют основу того, как моделируется память сегодня.

В 1950 году американский психолог Карл Лэшли опубликовал работу "В поисках энграммы", которая закрепила наследие этого слова. Она также задала довольно мрачный тон в этой области. Статья была так названа, потому что поиск - это все, чего, по мнению Лэшли, он добился за 30 лет экспериментов. В своих экспериментах Лэшли обучал животных создавать ассоциации (например, реагировать определенным образом, когда им показывают круг, а не букву "X") или заучивать задание, например, как пробежать через определенный лабиринт. Затем он хирургическим путем удалял определенные участки мозга или соединительные пути и наблюдал за тем, как это сказывалось на поведении животных после операции. Лэшли не смог найти ни одной области или схемы повреждений, которые бы достоверно влияли на память. Он пришел к выводу, что, следовательно, воспоминания должны быть каким-то образом равномерно распределены по всемумозгу , а не в какой-то одной области. Но, основываясь на некоторых расчетах о том, сколько нейронов может быть использовано для воспоминаний и сколько путей между ними, он не был уверен, что это возможно. Таким образом, его эпохальная статья стала чем-то вроде белого флага, отказавшись от любых попыток сделать выводы о местонахождении памяти перед лицом массы противоречивых данных. Физическая природа памяти оставалась для Лэшли все такой же сложной проблемой.

В то же время бывший студент Лэшли разрабатывал свои собственные теории обучения и памяти.

Дональд Хебб, канадский психолог, чья ранняя работа в качестве школьного учителя способствовала росту его интереса к разуму, стремился превратить психологию в биологическую науку. В своей книге 1949 года "Организация поведения" он описывает задачу психолога как "сведение причуд человеческого мышления к механическому причинно-следственному процессу". И в этой книге он изложил механический процесс, который, по его мнению, лежит в основе формирования памяти.1 Преодолевая ограниченные, а иногда и вводящие в заблуждение физиологические данные, доступные в то время, Хебб пришел к этому принципу о физических основах обучения в основном благодаря интуиции. Однако в дальнейшем он добился огромного эмпирического успеха. Принцип, известный сегодня как гебистское обучение, кратко описывается фразой "нейроны, которые работают вместе, работают вместе".

Хеббианское обучение описывает, что происходит на маленьком перекрестке между двумя нейронами, где один из них может послать сигнал другому, - это пространство называется синапсом. Предположим, есть два нейрона, A и B. Аксон нейрона A устанавливает синаптическую связь с дендритом или телом клетки нейрона B (таким образом, нейрон A является "пресинаптическим", а нейрон B - "постсинаптическим", см. Рисунок 7). При хеббианском обучении, если нейрон A неоднократно срабатывает раньше нейрона B, связь между A и B укрепляется. Укрепление связи означает, что в следующий раз, когда сработает A, он будет более эффективен для того, чтобы вызвать срабатывание B. Таким образом, активность определяет связанность, а связанность - активность.

Рисунок 7

Подход Хебба с его фокусом на синапсе рассматривает энграмму как локальную и глобальную: локальную, потому что отпечаток памяти возникает в маленьком промежутке, где один нейрон встречается с другим, но глобальную, потому что эти изменения могут происходить в синапсах по всему мозгу. Это также делает память естественным следствием опыта: при податливых синапсах любая активация мозга способна оставить след.

Лэшли, добросовестный ученый, стремящийся следовать фактам, признал, что инграмма должна быть распределена, основываясь на собственных экспериментах. Но он не находил удовлетворения врешении Хебба, которое - хотя и было заманчивой и элегантной теорией - основывалось скорее на догадках, чем на достоверных фактах. Он отклонил предложение Хебба стать соавтором этой работы.

Возможно, Лэшли и не поддержал идеи Хебба, но после публикации его книги было проведено бесчисленное множество экспериментов. Морские слизни - слизистые коричневые беспозвоночные длиной в фут, имеющие всего около 20 000 нейронов, - стали объектом пристального изучения в этой области благодаря своей способности к обучению самым простым ассоциациям. Эти слизни без панциря имеют на спине жабры, которые в случае угрозы могут быть быстро втянуты для сохранности. В лабораторных условиях короткий удар электрическим током заставляет жабру втянуться. Если такому удару неоднократно предшествовало безобидное легкое прикосновение, слизень в конце концов начнет втягивать жабру в ответ только на прикосновение, демонстрируя ассоциацию между прикосновением и тем, что ожидается дальше. Это эквивалент того, как морские животные учатся сочетать "wsp" с "niq". В соответствии с теорией обучения Хебба было показано, что эта ассоциация опосредована усилением связей между нейронами, которые представляют прикосновение, и нейронами, которые приводят к реакции жабр. Изменение поведения происходило за счет изменения связей.

Геббианское обучение не только наблюдалось, но и контролировалось. В 1999 году исследователи из Принстона показали, что генетическая модификация белков в клеточной мембране, которые способствуют синаптическим изменениям, может контролировать способность мыши к обучению. Усиление функции этих рецепторов повышает способность мышей запоминать объекты, которые им показывали раньше. Вмешательство в работу этих белков ухудшает эту способность.

В настоящее время наукой установлено, что опыт приводит к активации нейронов и что активация нейронов может изменять связи между ними. Эта история принимается как хотя бы частичный ответ на вопрос об энграмме. Но, как описывает Семон, сама энграмма - это лишь часть истории памяти. Память также требует запоминания. Как такой способ хранения воспоминаний может обеспечить их долгосрочное хранение и запоминание?

* * *

В том, что Джон Дж. Хопфилд стал физиком, нет ничего удивительного. Родившись в 1933 году в семье Джона Хопфилда-старшего, прославившегося в области ультрафиолетовой спектроскопии, и Хелен Хопфилд, изучавшей электромагнитное излучение атмосферы, Хопфилд-младший вырос в семье, где физика была в такой же степени философией, как и наукой. Физика была точкой зрения, согласно которой окружающий нас мир, при наличии усилий, изобретательности и достаточных ресурсов, поддается предсказанию и разумному количественному анализу", - написал Хопфилд в автобиографии. Быть физиком - значит посвятить себя поиску такого рода понимания". И физик - это то, кем он стал.

Хопфилд, высокий и долговязый мужчина с очаровательной улыбкой, получил степень доктора философии в 1958 году в Корнельском университете.дальнейшем он подражал своему отцу, получив стипендию Гуггенхайма, и использовал ее для обучения в Кавендишской лабораториив Кембридже. Но даже к этому времени энтузиазм Хопфилда по отношению к предмету его докторской диссертации - физике конденсированных сред - стал ослабевать. В 1968 году у меня закончились проблемы... для которых мои особые таланты казались полезными", - писал он позже.

Воротами Хопфилда из физики в биологию стал гемоглобин - молекула, которая одновременно выполняла важнейшую биологическую функцию переносчика кислорода в крови и могла быть изучена с помощью многих методов экспериментальной физики того времени. Хопфилд несколько лет работал над структурой гемоглобина в Bell Labs, но свое настоящее призвание в биологии он нашел после того, как в конце 1970-х годов был приглашен на серию семинаров по нейронаукам в Бостоне. Там он столкнулся с разношерстной группой клиницистов и нейробиологов, собравшихся вместе для решения глубокого вопроса о том, как разум возникает из мозга. Хопфилд был очарован.

Однако Хопфилда, как бы он ни был математически мыслящим человеком, огорчал качественный подход к мозгу, который он видел на выставке. Он был обеспокоен тем, что, несмотря на очевидные таланты в биологии, эти исследователи "никогда не смогут решить проблему, потому что решение может быть выражено только на соответствующем математическом языке и в соответствующей структуре". Таким языком владели физики. Поэтому Хопфилд постарался использовать свои навыки физика, даже когда приступил к исследованию памяти. По его мнению, некоторые физики того времени, совершившие скачокв биологию, полностью иммигрировали, переняв вопросы, культуру и лексику своей новой страны. Он хотел твердо сохранить свое гражданство физика.

В 1982 году Хопфилд опубликовал работу "Нейронные сети и физические системы с эмерджентными коллективными вычислительными способностями", в которой изложил описание и результаты работы того, что сейчас известно как сеть Хопфилда. Это была первая работа Хопфилда на эту тему; он только начинал погружаться в область нейронаук, и тем не менее она произвела фурор.

Рисунок 8

Сеть Хопфилда (см. рис. 8) - это математическая модель нейронов, которая может реализовать то, что Хопфилд назвал "памятью с возможностью адресации содержимого". Этот термин, пришедший из компьютерных наук, относится к понятию, что полную память можно извлечь из небольшого ее компонента. Сеть, которую Хопфилд создал для этой задачи, очень просто устроена. Она состоит только из бинарных нейронов (таких, как нейроны Маккаллоха-Питтса, представленные в прошлой главе), которые могут быть либо "включены", либо "выключены". Поэтому именно взаимодействие между этими нейронами и приводит к интригующему поведению этой сети.

Сеть Хопфилда является рекуррентной, то есть активность каждого нейрона определяется активностью любого издругих нейронов сети. Поэтому активность каждого нейрона служит как входом, так и выходом для его соседей. В частности, каждый входной сигнал, получаемый нейроном от другого нейрона, умножается на определенное число - синаптический вес. Затем эти взвешенные входы суммируются и сравниваются с пороговым значением: если сумма больше (или равна) пороговому значению, уровень активности нейрона равен 1 ("включен"), в противном случае - 0 ("выключен"). Этот выход затем поступает на вход других нейронов в сети, чьи выходы снова поступают на вход других нейронов, и так далее, и так далее.

Подобно телам в мош-пите, компоненты рекуррентной системы толкают и тянут друг друга, причем состояние единицы в любой момент времени определяется теми, кто ее окружает. Таким образом, нейроны в сети Хопфилда подобны атомам железа, постоянно влияющим друг на друга посредством магнитных взаимодействий. Эффекты этого непрерывного взаимодействия могут быть огромными и сложными. Предсказать, какие закономерности создадут эти взаимосвязанные части, практически невозможно без точной математической модели. Хопфилд был хорошо знаком с этими моделями и их способностью показать, как локальные взаимодействия приводят к возникновению глобального поведения.

Хопфилд обнаружил, что при правильном выборе весов между нейронами в его сети сеть какможет реализовать ассоциативную память. Чтобы понять это, мы должны сначала определить, что считается памятью в этой абстрактной модели. Представьте, что каждый нейрон в сети Хопфилда представляет один объект: нейрон A - это кресло-качалка, нейрон B - велосипед, нейрон C - слон и так далее. Чтобы представить конкретное воспоминание, скажем, о вашей детской спальне, нейроны, представляющие все объекты в этой комнате - кровать, ваши игрушки, фотографии на стене, - должны быть "включены"; в то время как нейроны, представляющие объекты не в этой комнате - луну, городской автобус, кухонные ножи, - должны быть "выключены". Таким образом, сеть в целом находится в состоянии активности "спальня вашего детства". Другое состояние активности - с разными наборами нейронов "включено" или "выключено" - будет представлять собой другое воспоминание.

В ассоциативной памяти небольшой вход в сеть реактивирует целое состояние памяти. Например, если вы увидите свою фотографию на кровати в детстве, это может активировать некоторые нейроны, представляющие вашу спальню: нейроны кровати, нейроны подушки и т. д. В сети Хопфилда связи между этими нейронами и нейронами, представляющими другие части спальни - шторы, игрушки, письменный стол, - заставляют эти нейроны активизироваться, воссоздавая полное ощущение спальни. Отрицательно взвешенные связи между нейронами спальни и нейронами, представляющими, скажем, местный парк, гарантируют, что в память спальни не проникнут другие предметы. Таким образом, вы не запомните качели рядом с вашим шкафом.

Когда одни нейроны включаются, а другие выключаются, именно их взаимодействие делает полную память более рельефной. Таким образом, тяжелую работу по восстановлению памяти выполняют синапсы. Именно сила этих связей выполняет грозную, но деликатную задачу восстановления памяти.

На языке физики полностью восстановленное воспоминание - это пример аттрактора. Короче говоря, аттрактор - это популярная модель деятельности. К нему эволюционируют другие модели активности, подобно тому, как вода тянется вниз по водостоку. Память - это аттрактор, потому что активация нескольких нейронов, формирующих память, побуждает сеть заполнить остальные. Как только сеть переходит в состояние аттрактора, она остается в нем, а нейроны фиксируются в своих "включенных" или "выключенных" положениях. Физики, всегда любившие описывать вещи в терминах энергии, считают аттракторы "низкоэнергетическими" состояниями. Это комфортное положение, в котором может находиться система; именно это делает их привлекательными и стабильными.

Представьте себе батут, на котором стоит человек. Мяч, помещенный в любое место на батуте, покатится к человеку и останется там. Таким образом, мяч, находящийся в углублении, созданном человеком, является притягивающим состоянием для этой системы. Если бы два человека одинакового размера стояли на батуте друг напротив друга, система имела бы два аттрактора. Мяч катился бы к тому, к кому он изначально был ближе всего, но все дороги все равно вели бы к аттрактору. Системы памяти были бы бесполезны, если бы могли хранить только одно воспоминание, поэтому важно, чтобы сеть Хопфилда могла поддерживать несколько аттракторов. Точно так же, как мяч стремится к ближайшей низкой точке на батуте, начальные состояния нейронной активности эволюционируют в сторону ближайшего, наиболее похожего воспоминания (см. рис. 9).Начальные состояния, которые приводят к определенному аттрактору памяти - например, фотографиявашей детской кровати, которая воскрешает воспоминания о всей комнате, или поездка на пляж, которая воспламеняет воспоминания о детском отдыхе, - как говорят, находятся в "бассейне притяжения" этого воспоминания.

Поэма "Удовольствия памяти" (The Pleasures of Memory) написана в 1792 году Сэмюэлем Роджерсом. Размышляя о всеобщем путешествии, в которое память может увлечь разум, он писал

Убаюканный в бесчисленных камерах мозга,

Наши мысли связаны между собой множеством скрытых цепочек.

Проснись лишь один, и вот, мириады восстают!

Каждый штампует свое изображение, пока другой летит!

Скрытая цепочка" Роджерса может быть найдена в схеме весов, которые восстанавливают память в сети Хопфилда.Действительно, модель аттрактора соответствует многим нашим представлениям о памяти. Она неявно учитывает время, необходимое для восстановления воспоминаний, поскольку сети требуется время для активации нужных нейронов. Аттракторы также могут быть слегка смещены в сети, создавая воспоминания, которые в основном правильные, но с измененной деталью или двумя. А слишком похожие воспоминания могут просто слиться в одно. Хотя сведение памяти к ряду нулей и единиц может показаться оскорблением богатства нашего опыта, именно конденсация этого, казалось бы, невыразимого процесса делает его понимание доступным.

Рисунок 9

В сети Хопфилда то, насколько прочно нейроны связаны друг с другом, определяет, какие паттерны нейронной активности формируют память. Таким образом, программа находится в весах - но как она туда попадает? Как опыт может создать именно те веса, которые нужны для формирования памяти? Хебб говорит нам, что воспоминания должны возникать в результате усиления связей между нейронами с одинаковой активностью - и в сети Хопфилда именно так и происходит.

Сеть Хопфилда кодирует набор воспоминаний с помощью простой процедуры. При каждом переживании, когда два нейрона либо активны, либо неактивны, связь между ними укрепляется. Таким образом, нейроны, которые работают вместе, оказываются связанными друг с другом. С другой стороны, при каждом опыте, когда один нейрон активен, а другой неактивен, связь ослабевает.5После этойпроцедурыобучениянейроны, которые обычно совместно участвуют в воспоминаниях, будут иметь сильную положительную связь, нейроны с противоположной активностью - сильную отрицательную связь, а остальные будут находиться где-то посередине. Это как раз та связь, которая необходима для формирования аттракторов.

Аттракторы - не тривиальные явления. В конце концов, если все нейроны в сети постоянно посылают и получают входные сигналы, почему мы должны предполагать, что их активность когда-нибудь установится в состоянии памяти, не говоря уже о правильном состоянии памяти? Поэтому, чтобы быть уверенным в том, что в этих сетях образуются правильные аттракторы, Хопфилду пришлось сделать довольно странное допущение: веса в сети Хопфилда симметричны. Это означает, что сила связи от нейрона A к нейрону B всегда такая же, как и сила связи от B к A. Соблюдение этого правила давало математическую гарантию появления аттракторов. Проблема в том, что шансы найти в мозге популяцию таких нейронов, мягко говоря, невелики. Для этого нужно, чтобы каждый аксон, выходящий из одной клетки и образующий синапс с другой, в точности соответствовал тому, что та же клетка отправляет свой аксон обратно, соединяясь с первой клеткой с той же силой. Биология просто не так чиста.

Это свидетельствует о постоянном напряжении в математическом подходе к биологии. Точка зрения физика, зависящая от почти иррациональной степени упрощения, постоянно противоречит биологии, полной грязных, неудобных деталей. В данном случае детали математики требовали симметричных весов, чтобы сделать какое-либо определенное заявление об аттракторах и, таким образом, добиться прогресса в моделированиипроцесса памяти . Биолог, скорее всего, сразу бы отверг это предположение6.

Хопфилд, стоявший по обе стороны пропасти между математикой и биологией, знал, что нужно ценить точку зрения нейробиологов. Чтобы снять их озабоченность, он показал в своей оригинальной работе, что - хотя это и нельзя было гарантировать математически - сети, допускающие асимметричные веса, все же были способны обучаться и поддерживать аттракторы относительно хорошо.

Таким образом, сеть Хопфилда стала доказательством того, что идеи Хебба об обучении действительно могут работать. Кроме того, она давала возможность изучать память математически - количественно. Например, сколько именно воспоминаний может хранить сеть? Этот вопрос можно задать, только имея в голове точную модель памяти. В простейшей версии сети Хопфилда количество воспоминаний зависит от числа нейронов в сети. Например, сеть с 1 000 нейронов может хранить около 140 воспоминаний; 2 000 нейронов - 280; 10 000 - 1 400 и так далее. Если количество воспоминаний не превышает примерно 14 процентов от количества нейронов, каждое воспоминание будет восстановлено с минимальной ошибкой. Однако добавление новых воспоминаний будет подобно последнему дополнению к карточному домику, которое приведет к его обрушению.Когда возможности сети Хопфилда превышены, она разрушается: входные сигналынаправляются к бессмысленным аттракторам, и ни одно воспоминание не восстанавливается успешно. Это явление получило соответствующее драматическое название "катастрофа отключения".

От точности не уйти: как только найдена оценка объема памяти, разумно спросить, совпадает ли она с количеством воспоминаний, которые, как мы знаем, хранит мозг. Знаменательное исследование, проведенное в 1973 году, показало, что люди, которым показывали более 10 000 изображений (каждое только один раз и на короткий промежуток времени), были вполне способны распознать их впоследствии. 10 миллионов нейронов в периферической коре - области мозга, связанной с визуальной памятью, - могли бы хранить такое количество изображений, но это не оставило бы места ни для чего другого. Таким образом, казалось, что в гебистском обучении есть проблема.

Однако эта проблема становится менее проблематичной, когда мы понимаем, что узнавание - это не запоминание. То есть ощущение знакомости при виде изображения может возникать без способности восстановить этот образ с нуля. Сеть Хопфилда примечательна тем, что способна справиться с последней, более сложной задачей - она полностью заполняет память из ее частичного фрагмента. Но первая задача по-прежнему важна. Благодаря исследователям из Бристольского университета стало известно, что распознавание также может быть выполнено сетью, использующей гебистское обучение. Такие сети, если оценивать их способность маркировать входной сигнал как новый или знакомый, обладают значительнобольшей производительностью: 1000 нейронов теперь могут распознать целых 23 000 изображений. Как прозорливо заметил Семен, это пример проблемы, возникающей при использовании общего языка для разделения функций мозга. То, что нам кажется просто "памятью", распадается под пристальным взглядом науки и математики на множество различных навыков.

* * *

Когда в 1953 году американский врач Уильям Сковилл удалил гиппокамп с каждой стороны мозга 27-летнего Генри Молесона, он думал, что помогает предотвратить припадки Молесона. Чего Сковилл не знал, так это того, какое невероятное влияние окажет эта процедура на науку о памяти. Молесон (более известный как H. M." в научных работах, чтобы скрыть свою личность до самой смерти в 2008 году) после процедуры получил некоторое облегчение от припадков, но у него больше никогда не формировались осознанные воспоминания. Последующая и постоянная амнезия Молесона положила начало исследованию гиппокампа - изогнутой структуры длиной в палец, расположенной глубоко в мозге, - как центрального звена в системе формирования памяти. Как выяснилось в ходе беспокойных поисков Лэшли, это место действительно играет особую роль в хранении воспоминаний.

Современные теории функционирования гиппокампа таковы: информация о мире сначала попадает в гиппокамп в зубчатой извилине - области, которая проходит вдоль нижнего края гиппокампа. Здесь представление грунтуется и подготавливается к тому, чтобы стать формой, более удобной для хранения в памяти. Затем зубчатая извилина направляет связи туда, гдесчитается , формируютсяаттракторы, - в область под названием CA3; CA3 имеет обширные рекуррентные связи, что делает ее основным субстратом для эффектов, подобных сети Хопфилда. Затем эта область посылает выход в другую область, называемую CA1, которая действует как ретрансляционная станция; она посылает запомненную информацию обратно в остальные части мозга (см. рис. 10).

Рисунок 10

Что интересно в этом последнем шаге - и что, возможно, запутало первоначальные выводы Лэшли - так это то, что эти проекции в различные области мозга, как полагают, облегчают копирование воспоминаний. Таким образом, СА3 действует как буфер, или хранилище, сохраняя воспоминания до тех пор, пока они не будут перенесены в другие области мозга. Для этого он реактивирует память в этих областях. Таким образом, гиппокамп помогает остальным частям мозга запоминать информацию, используя ту же стратегию, которую вы используете при подготовке к тесту: повторение. Многократно активируя одну и ту же группу нейронов в других областях мозга, гиппокамп дает этим нейронам возможность самим пройти процесс гебистского обучения. В конце концов их собственный вес изменится настолько, что память будет надежно сохранена.

Зная об этом хранилище памяти в мозге, исследователи могут изучить, как оно работает. В частности, они могут искать в нем аттракторы.

В 2005 году ученые из Университетского колледжа Лондона регистрировали активность клеток гиппокампа у крыс. Крысы привыкли находиться в двух разных вольерах - круглом и квадратном. Нейроны гиппокампа проявляли одну активность, когда они находились в круге, и другую, когда в квадрате. Тест на наличие аттракторов проводился, когда животное помещали в новую среду "сквирл", форма которой была чем-то средним между кругом и квадратом. Исследователи обнаружили, что если окружение было более квадратным, то нейронная активность переходила к паттерну, ассоциирующемуся с квадратом; если окружение было более круговым, то к паттерну, ассоциирующемуся с кругом. Важно отметить, что в ответ на промежуточное окружение не возникало никаких промежуточных представлений, только круг или квадрат. Это делает воспоминания о круге и квадрате аттракторами. Начальный входной сигнал, который не является в точности одним или другим, нестабилен; он неизбежно направляется к ближайшему установленному воспоминанию.

Сеть Хопфилда воплотила в жизнь теории Хебба и показала, как аттракторы - обычно изучаемые в физике - могут объяснить тайны памяти. Однако Хопфилд понимал, что математика не может быть реализована в реальных мозгах в реальных лабораториях. Он описывал свою модель как "простую пародию на сложности нейробиологии". Действительно, как творение физика, оналишена всего липкого богатства биологии. Но как пародия, способная к мощным вычислениям, она также предложила множество открытий - открытий, которые не ограничились простым хранением и запоминанием.

* * *

Вы ужинаете на кухне, когда домой возвращается ваш сосед по комнате. Увидев их, вы вспоминаете, что вчера вечером дочитали книгу, которую они вам одолжили, и хотите вернуть ее до того, как они уедут в командировку на следующий день. Поэтому вы откладываете еду, выходите из кухни и идете по коридору. Вы поднимаетесь по лестнице, поворачиваете, заходите в свою комнату и думаете: "Стоп, что я здесь делаю?".

Это ощущение встречается довольно часто. Настолько, что ему дали название: "дестинезия", или амнезия того, почему вы оказались там, где находитесь. Это сбой так называемой "рабочей памяти" - способности удерживать в голове идею даже в течение 10 секунд, необходимых для того, чтобы пройтись из комнаты в комнату. Рабочая память важна практически для всех аспектов познания: трудно принять решение или разработать план, если вы постоянно забываете, о чем думали.

Психологи изучают рабочую память уже несколько десятилетий. Сам термин впервые появился в книге "Планы и структура поведения", написанной в 1960 году Джорджем А. Миллером и его коллегами, работавшими в Центре перспективных исследований в области поведенческих наук в Калифорнии. Однако концепция была изучена задолго до этого. Действительно, сам Миллер написал одну из самых влиятельных работ на эту тему четырьмя годами ранее, в 1956 году. Возможно,, предвидя свою славу, Миллер дал статье дерзкое название "Магическое число семь, плюс или минус два". Под этим магическим числом подразумевается количество предметов, которые человек может удерживать в своей рабочей памяти в любой момент времени.

Пример оценки: 1) покажите участнику несколько цветных квадратов на экране; 2) попросите его подождать некоторое время - от нескольких секунд до нескольких минут; 3) затем покажите ему второй набор цветных квадратов. Задача испытуемого - указать, совпадают ли цвета второго набора с цветами первого. Люди хорошо справляются с этим заданием, если количество показываемых квадратов остается небольшим, достигая почти 100-процентной точности при показе только одного квадрата. При добавлении большего количества квадратов производительность падает и падает, пока после семи она почти не отличается от случайного угадывания. Вопрос о том, действительно ли семь - это особая величина, когда речь идет о таком виде рабочей памяти, остается открытым: некоторые исследования показывают более низкие пределы, некоторые - более высокие. Однако несомненно, что статья Миллера произвела впечатление, и с тех пор психологи работают над тем, чтобы охарактеризовать практически все аспекты рабочей памяти - от того, что в ней может храниться, до того, как долго она может работать.

Но остается открытым вопрос, как именно мозг это делает: где и каким образом хранятся рабочие воспоминания? Проверенный метод ответа на такие вопросы - эксперименты с поражением - указывает на префронтальную кору, большую часть мозга, расположенную сразу за лбом. Будь то люди с неудачными травмами или лабораторные животные с удаленной областью, было ясно, что повреждение префронтальной коры существенно снижает рабочую память. Без нее животныенемогутудерживать мысль дольше секунды или двух. Мысли и переживания проходят через их сознание, как вода через сжатые ладони.

Отметив место "Х", неврологи начали копать. Опустив электрод в префронтальную кору обезьян, в 1971 году исследователи из Калифорнийского университета в Лос-Анджелесе подслушивали нейроны, находящиеся там. Ученые, Хоакин Фустер и Гарретт Александер, делали это, пока животные выполняли задание, похожее на тест на запоминание цвета. Эти тесты известны как задания с "отсроченным ответом", поскольку включают период задержки, в течение которого важная информация отсутствует на экране и должна быть удержана в памяти. Возник вопрос: что делают нейроны в префронтальной коре во время этой задержки?

Большинство областей мозга, отвечающих за зрение, стереотипно реагируют на подобные задачи: нейроны сильно реагируют, когда узоры на экране появляются вначале, а затем снова, когда они появляются после задержки, но в период задержки - когда в мозг не поступает никаких зрительных сигналов - эти области в основном молчат. Для этих нейронов "вне поля зрения" действительно означает "вне сознания". Однако Фастер и Александр обнаружили, что клетки в префронтальной коре были другими. Нейроны, реагировавшие на визуальные паттерны, продолжали работать даже после того, как паттерны исчезали; то есть они сохраняли свою активность в течение периода задержки. Физическая сигнатура рабочей памяти в действии!

префронтальной коре, так и за ее пределами. Эксперименты также намекнули, что, когда эти паттерны стрельбы выходят из строя, рабочая память нарушается. В некоторых экспериментах, например, кратковременная электрическая стимуляция в период задержки может нарушить текущую активность, что приводит к снижению производительности в задачах на отсроченный ответ.

Что такого особенного в этих нейронах, что они могут это делать? Почему они могут удерживать информацию и поддерживать ее в течение нескольких секунд или минут, в то время как другие нейроны ее пропускают? Для такой устойчивой работы нейронам обычно нужен устойчивый вход. Но если активность задержки возникает без какого-либо внешнего входа в виде изображения, то этот постоянный вход должен поступать от соседних нейронов. Таким образом, активность задержки может генерироваться только сетью нейронов, работающих вместе, и связи между ними сговариваются, чтобы поддерживать активность. Именно здесь снова вступает в игру идея аттракторов.

До сих пор мы рассматривали аттракторы в сетях Хопфилда, которые показывают, как входные сигналы оживляют память. Может быть, не совсем понятно, как это помогает в работе с рабочей памятью. В конце концов, рабочая память - это все о том, что происходит после зажигания; после того как вы встали, чтобы взять книгу соседа по комнате, как вам удастся удержать эту цель в памяти? Однако, как выяснилось, аттрактор - это именно то, что нужно в данной ситуации, потому что аттрактор остается на месте.

Аттракторы определяются производными. Если мы знаем, какие входы получает нейрон и на какие веса умножаются эти входы, мы можем записать уравнение - производную, - описывающее, как активность нейрона будет меняться со временем под воздействием этих входов. Если эта производная равна нулю, это означает,активность нейрона не меняетсявременем; он просто продолжает работать с той же постоянной скоростью. Вспомните, что, поскольку этот нейрон является частью рекуррентной сети, он не только получает входные данные, но и служит входом для других нейронов. Так, его активность направлена на вычисление производной соседнего нейрона. Если ни один из входов соседнего нейрона не меняется - то есть все их производные также равны нулю, - то и у него будет нулевая производная, и он будет продолжать срабатывать с той же скоростью. Когда сеть находится в состоянии аттрактора, производная каждого нейрона в этой сети равна нулю.

Именно так, если связи между нейронами правильные, воспоминания, начатые в один момент времени, могут сохраняться гораздо дольше. Все клетки могут поддерживать свой ритм работы, потому что все клетки вокруг них делают то же самое. Ничего не меняется, если ничего не меняется.

Проблема в том, что все меняется. Когда вы выходите из кухни и идете в спальню, вы сталкиваетесь со всевозможными вещами - вашими ботинками в коридоре, ванной, которую вы собирались убрать, видом дождя на окне - которые могут вызвать изменения во входном сигнале нейронов, пытающихся удержать память. И эти изменения могут вытолкнуть нейроны из состояния аттрактора, представляющего книгу, и направить их в совершенно другое место. Чтобы рабочая память функционировала, сеть должна хорошо сопротивляться влиянию таких отвлекающих факторов. Обычный аттрактор может в определенной степени противостоять отвлекающему воздействию. Вспомните пример с батутом. Если человек, стоящий на батуте, слегка подтолкнет мяч, он, скорее всего, выкатится из углубления, а затем вернется обратно. При небольшом возмущении память остается нетронутой, но если датьмячу более сильный толчок, кто знает, где он окажется? Хорошая память должна быть устойчива к таким отвлекающим факторам - так что же может сделать сеть хорошей хранительницей воспоминаний?

Танец между данными и теорией - это сложный процесс, в котором нет четкой ведущей или последующей роли. Иногда математические модели разрабатываются только для того, чтобы соответствовать определенному набору данных. В других случаях детали данных отсутствуют или игнорируются, и теоретики поступают так, как и следует из их названия: теоретизируют о том, как может работать система, еще не зная, как она работает. Когда речь зашла о создании надежной сети рабочей памяти, ученые в 1990-х годах пошли в последнем направлении. Они придумали так называемую "кольцевую сеть" - разработанную вручную модель нейронной цепи, которая идеально подходит для надежного поддержания рабочей памяти.

В отличие от сетей Хопфилда, кольцевые сети хорошо описываются их названием: они состоят из нескольких нейронов, расположенных кольцом, причем каждый нейрон соединяется только с теми, которые находятся рядом с ним. Как и у сетей Хопфилда, у этих моделей есть состояния аттрактора - паттерны активности, которые являются самоподдерживающимися и могут представлять собой воспоминания. Но состояния аттракторов в кольцевой модели отличаются от состояний аттракторов в сети Хопфилда. Аттракторы в модели Хопфилда дискретны. Это означает, что каждое состояние аттрактора - то, которое относится к вашей детской спальне, то, которое относится к вашему детскому отпуску, то, которое относится к вашей нынешней спальне, - полностью изолировано от остальных. Не существует плавного перехода между этими разными воспоминаниями, независимо от того, насколько они похожи; вам придется полностью покинуть одно состояние аттрактора, чтобы попасть в другое. Аттракторы в кольцевой сети, напротив, непрерывны. С непрерывными аттракторами переход между похожимивоспоминаниями очень прост. Модели с непрерывными состояниями аттракторов скорее напоминают желоб дорожки для боулинга: попав в желоб, шар не может легко из него выбраться, но может плавно перемещаться внутри него.

Сети с непрерывными состояниями аттракторов, подобные кольцевой модели, полезны по целому ряду причин, и главная из них - тип ошибок, которые они допускают. Может показаться глупым хвалить систему памяти за ее ошибки - разве мы не предпочли бы вообще не иметь ошибок? - Но если мы предположим, что ни одна сеть не может обладать идеальной памятью, то качество ошибок становится очень важным. Кольцевая сеть допускает небольшие, разумные ошибки.

Рассмотрим пример теста на рабочую память, в котором испытуемые должны были запомнить цвет фигур на экране. Цвета хорошо отображаются в кольцевых сетях, потому что, как вы помните из уроков рисования, цвета располагаются на колесе. Итак, представьте себе сеть нейронов, расположенных в виде кольца, где каждый нейрон представляет немного другой цвет. На одной стороне кольца находятся нейроны, представляющие красный цвет, рядом с ними - оранжевые, затем желтые и зеленые; так мы доходим до стороны, противоположной красному, где находятся нейроны, представляющие синий цвет, которые ведут к фиолетовым и снова к красному.

В этой задаче при виде фигуры возникает активность в нейронах, представляющих ее цвет, в то время как другие нейроны молчат. В результате на кольце образуется небольшой "бугорок" активности, сосредоточенный на запомненном цвете. Если в то время, когда человек пытается удержать в памяти этот цвет, поступают какие-либо отвлекающие сигналы - например, от других случайных объектов в комнате, - они могут оттолкнуть или отодвинуть бугорок активности от желаемого цвета. Но - и это решающий- он сможет сдвинуть его только в очень близкое место на кольце. Так красный может стать красно-оранжевым или зеленый - тиловым. Но память красного цвета вряд ли станет зеленым. Или, если уж на то пошло, вообще не станет никаким цветом; где-то на кольце всегда будет неровность. Все эти свойства являются прямым следствием желобообразной природы непрерывного аттрактора - он обладает низким сопротивлением при переходе между близкими состояниями, но высоким сопротивлением при других возмущениях.

Еще одно преимущество кольцевой сети заключается в том, что ее можно использовать для выполнения различных действий. Слово "рабочая" в рабочей памяти призвано опровергнуть мнение о том, что память - это просто пассивное хранение информации. Напротив, хранение идей в рабочей памяти позволяет нам комбинировать их с другой информацией и приходить к новым выводам. Отличным примером этого является система направления головы у крыс, которая также послужила вдохновением для ранних моделей кольцевых сетей.

У крыс (как и у многих других животных) есть внутренний компас: набор нейронов, которые постоянно отслеживают направление, в котором находится животное. Если животное поворачивается лицом к новому направлению, активность этих клеток меняется, отражая это изменение. Даже если крыса сидит неподвижно в тихой затемненной комнате, эти нейроны продолжают работать, сохраняя информацию о направлении движения. В 1995 году группа специалистов из лаборатории Брюса Макнотона в Университете Аризоны и отдельно Кечен Чжан из Калифорнийского университета в Сан-Диего предположили, что этот набор клеток может быть хорошо описан кольцевой сетью. Направление - одно из тех понятий, которые хорошо отображаются в круге, и бугорок активности на кольце будет использоваться для хранения направления, в котором находится животное (см. рис.11).

Но кольцевая сеть не только объясняет, как знание о направлении головы сохраняется с течением времени, но и служит моделью того, как сохраненное направление может меняться, когда животное меняет направление. Клетки, определяющие направление головы, получают входные сигналы от других нейронов, например от нейронов зрительной системы и вестибулярного аппарата (который следит за движением тела). Если эти входы правильно подключены к кольцевой сети, они могут подтолкнуть бугорок активности к новому месту на кольце. Например, если вестибулярная система говорит, что тело сейчас движется влево, бугорок сдвигается влево. Таким образом, движение по кольцу не создает ошибок в памяти, а скорее обновляет ее на основе новой информации. Рабочая" память оправдывает свое название.

Рисунок 11

Кольцевые сети - прекрасное решение сложной проблемы создания надежных и функциональных систем рабочей памяти. Они также являются прекрасными математическими объектами. Они демонстрируют желаемые свойства простоты и симметрии. Они точны и тонко настроены, даже элегантны.

Как таковые, они совершенно нереальны. Потому что для биолога, конечно, "тонкая настройка" - это грязные слова. Все, что требует тонкого планирования и первозданных условий для нормальной работы, не выживет в хаосе, которым является развитие и деятельность мозга. Многие из желаемых свойств кольцевых сетей проявляются только при очень специфических предположениях о связности между нейронами, предположениях, которые просто не кажутся очень реалистичными. Поэтому, несмотря на все их желательные теоретические свойства и полезные возможности, шансы увидеть кольцевую сеть в мозге представляются незначительными.

Поэтому открытие, сделанное в исследовательском центре недалеко от Вашингтона в 2015 году, стало еще более захватывающим.

Janelia Research Campus - это исследовательский центр мирового класса, спрятанный на идиллических бывших сельскохозяйственных угодьях в Эшберне, штат Вирджиния. Вивек Джаяраман работает в Janelia с 2006 года. Он и его команда из примерно полудюжины человек работают над пониманием навигации у Drosophila melanogaster, вида плодовой мушки, широко изучаемого в нейронауках. Размер этих животных, сравнимый с рисовым зерном, является одновременно и благословением, и проклятием. Хотя их трудно достать, у этих крошечных мушек всего около 135 000 нейронов, что примерно на 0,2 процента больше, чем у другого популярного лабораторного животного - мыши. Кроме того, об этих нейронах известно очень многое. Многие из них легко классифицировать по генам, которые они экспрессируют, а их количество и расположение очень похожи у разных особей.

Как и у грызунов, у мух тоже есть система для отслеживания направления движения головы. Эллипсоидное тело расположено в центре мозга мухи и имеет уникальную форму: в его центре находится отверстие, вокруг которого расположены клетки, образующие пончик из нейронов - или, другими словами, кольцо.

Однако нейроны, расположенные кольцом, не обязательно образуют кольцевую сеть. Поэтому в лаборатории Джаярамана решили выяснить, действительно ли эта группа нейронов, похожая на кольцевую сеть, ведет себя так же. Для этого они поместили в нейроны эллипсоидного тела специальный краситель, который заставляет их светиться зеленым светом, когда они активны. Затем они заставили муху ходить, а нейроны снимали на видео. Если бы вы посмотрели на эти нейроны на экране, когда муха направляется вперед, вы бы увидели мерцание маленьких зеленых точек в одном месте на черном экране. Если муха решит повернуть, мерцающий участок переместится в другое место. Со временем, когда муха перемещается, а вместе с ней перемещается и зеленое пятно на экране, загоревшиеся точки образуют четкую кольцевую структуру, соответствующую основной форме тела эллипсоида. Если выключить в комнате свет, чтобы муха не могла видеть, в какую сторону она направлена, зеленое мерцание все равно останется в том же месте кольца - явный признак того, что память о направлении движения сохраняется.

Помимо наблюдения за активностью кольца, экспериментаторы также манипулировали им, чтобы исследовать крайние варианты его поведения. Настоящая кольцевая сеть может поддерживать только одну "шишку" активности, то есть в данный момент времени активными могут быть только нейроны в одном месте кольца. Поэтому исследователи искусственно стимулировали нейроны на стороне кольца, противоположной тем, которые уже были активны. Такая сильная стимуляция противоположных нейронов привела к тому, что первоначальный бугорок выключился, а бугорок в новом месте сохранился даже после того, как стимуляция былавыключена. В ходе этих экспериментов стало ясно, что эллипсоидное тело - не самозванец, а яркий пример воплощения теории в жизнь.

Это открытие - кольцевая сеть в буквальной, видимой форме кольца - похоже на то, что природа нам подмигивает. Уильям Скэггс и другие авторы одной из оригинальных работ, в которой предлагалась кольцевая сеть, явно сомневались в возможности такой находки: "Для наглядности полезно представлять сеть как набор круговых слоев; это не отражает анатомическую организацию соответствующих клеток в мозге". Большинство теоретиков, работавших над моделями кольцевых сетей, предполагали, что они будут встроены в какую-то более крупную и запутанную сеть нейронов. И так будет в большинстве систем у большинства видов. Этот аномально чистый пример, вероятно, возник в результате очень точно контролируемой генетической программы. Другие будет гораздо сложнее обнаружить.

Даже если мы обычно не можем увидеть их напрямую, мы можем сделать предсказания о поведении, которое мы ожидаем увидеть, если мозг использует непрерывные аттракторы. В 1991 году исследователь рабочей памяти Патриция Голдман-Ракич обнаружила, что блокирование функции нейромодулятора дофамина затрудняет запоминание обезьянами местоположения предметов. Известно, что дофамин изменяет поток ионов в клетку и из нее. В 2000 году исследователи из Института Солка в Калифорнии показали, как имитация присутствия дофамина в модели с непрерывным аттрактором улучшает память модели. Он стабилизирует активность нейронов, кодирующих память, делаяих более устойчивыми к нерелевантным входным сигналам. Поскольку дофамин связан с вознаграждением, эта модель также предсказывает, что в условиях, когда человек ожидает большого вознаграждения, его рабочая память будет лучше - именно это и было обнаружено. Когда людям обещают большую награду за запоминание чего-либо, их рабочая память становится лучше. Здесь концепция аттрактора работает как нить, сшивающая химические изменения с когнитивными. Она связывает ионы с опытом.

Аттракторы вездесущи в физическом мире. Они возникают в результате локальных взаимодействий между частями системы. Будь то атомы в металле, планеты в солнечной системе или даже люди в сообществе, они будут вынуждены двигаться к состоянию аттрактора и, если не произойдет серьезных сбоев, останутся в нем. Применение этих концепций к нейронам, формирующим память, соединяет точки в биологии и психологии. С одной стороны, сети Хопфилда связывают формирование и извлечение воспоминаний с тем, как меняются связи между нейронами. С другой стороны, такие структуры, как кольцевые сети, лежат в основе того, как идеи удерживаются в сознании. В одной простой схеме мы описываем, как записываются, сохраняются и активизируются воспоминания.

Глава 5. Возбуждение и торможение.

Сбалансированная сеть и колебания

Почти в каждом нейроне идет борьба. Эта борьба - борьба за конечный результат работы нейрона - сталкивает две фундаментальные силы мозга друг с другом. Это битва возбуждения против торможения. Возбуждающие сигналы побуждают нейрон к действию. Тормозные сигналы делают обратное: они отодвигают нейрон дальше от порога возбуждения.

Баланс между этими двумя силами определяет деятельность мозга. Он определяет, какие нейроны и когда срабатывают. Он формирует их ритмы - ритмы, которые задействованы во всем, от внимания до сна и памяти. Возможно, более удивительно то, что баланс между возбуждением и торможением также может объяснить особенность мозга, которая преследовала ученых на протяжении десятилетий: пресловутую ненадежность нейронов.

Если подслушать нейрон, который должен выполнять одно и то же действие снова и снова - например, нейрон в двигательной системе, повторяющий одно и то же движение, - то можно обнаружить, что его активность удивительно неравномерна. Вместо того чтобы каждый раз дословно повторять один и тот же паттерн всплесков, он будет срабатывать чаще при одних попытках и реже при других.

Ученые узнали об этой своеобразной привычке нейронов еще во времена нейронной записи. В 1932 году физиолог Джозеф Эрлангер обновил оборудование в своейлаборатории в Сент-Луисе, что позволило ему регистрировать нейронную активность с чувствительностью, в 20 раз превышающей прежнюю. Вместе со своим коллегой Э. А. Блэром он наконец-то смог выделить отдельные нейроны в лапке лягушки и записать, как они реагируют на точные импульсы электричества - 58 одинаковых импульсов в минуту, если быть точным.

К своему удивлению, Эрлангер и Блэр обнаружили, что одинаковые импульсы не вызывают одинаковых ответов: нейрон может реагировать на один импульс тока, но не на следующий. При этом сохранялась зависимость между силой импульса и реакцией: например, при использовании слабых токов нейрон реагировал, скажем, в 10 процентах случаев, средних - в половине случаев и так далее. Но за пределами этих вероятностей реакция нейрона на тот или иной импульс казалась делом чистой случайности. Как писала пара в своей статье, опубликованной в 1933 году в American Journal of Physiology: "Мы были поражены калейдоскопическим видом [ответов], полученных от больших нервов при абсолютно постоянных условиях".

Эта работа стала одним из первых исследований, систематически изучавших загадочные неровности нервной системы, но она была далеко не последней. Например, в 1964 году пара американских ученых раз за разом выполняла одно и то же движение щеткой по коже обезьяны. Они сообщили, что активность нейронов, реагирующих на это движение, выглядит как "серия нерегулярно повторяющихся импульсов, так что в целом при визуальном осмотре нельзя обнаружить никакой упорядоченной картины".

В 1983 году группа исследователей из Кембриджа и Нью-Йорка отметила, что: "Известно, что изменчивость реакции нейронов коры головного мозга весьма значительна". Их исследование зрительной системы у кошек и обезьян показало, чтонейронный ответ на повторение одного и того же изображения дает разные результаты. Реакция все еще имеланекоторую связь со стимулом - клетки все еще меняли среднее число срабатываний на разные изображения. Но какой именно нейрон и когда сработает в каждом конкретном случае, казалось, было так же непредсказуемо, как погода на следующей неделе. Последовательное предъявление одинаковых стимулов не дает одинаковых реакций", - заключили авторы.

В 1998 году два видных нейробиолога даже сравнили работу мозга со случайностью радиоактивного распада, написав, что нейроны имеют "больше общего с тиканьем счетчика Гейгера, чем с часами".

Десятилетия исследований и тысячи статей привели к тому, что нервная система оказалась в полном беспорядке. Сигналы, поступающие в мозг, воздействуют на нейроны, которые и без того включаются и выключаются по собственной прихоти. Поступающие на эти нейроны сигналы могут влиять на их активность, но не контролировать ее в точности - всегда будет присутствовать элемент неожиданности. Эту предположительно бесполезную болтовню, отвлекающую от основного сообщения, которое пытается передать нейрон, неврологи называют "шумом".

Как знаменито сказал Эйнштейн в отношении новой науки - квантовой механики: "Бог не играет в кости". Так почему же мозг должен играть? Может ли быть какая-то веская причина, по которой эволюция породила шумные нейроны? Некоторые философы утверждают, что шум в мозге может быть источником нашей свободы воли - это способ преодолеть представление о разуме как о подчиненном тем же детерминированным законам, что и любая машина. Однако другие с этим не согласны. Как писал британский философ Гален Стросон: "Возможно, некоторыеизменения в человеке можно отследить... под влиянием индетерминистских или случайных факторов. Но абсурдно полагать, что индетерминистские или случайные факторы, за которые человек [по определению] никак не отвечает, сами по себе могут способствовать тому, что человек будет действительно морально ответственным за то, каким он является". Другими словами, следование решениям, основанным на подбрасывании монеты, тоже не совсем "свободно".

Ученые выдвигали и другие цели для этой непредсказуемости. Например, случайность может помочь узнать что-то новое. Если кто-то каждый день ходит на работу по одной и той же дороге, то случайный поворот налево может привести его в незнакомый парк, новое кафе или даже ускорить путь. Нейронам тоже полезно немного исследовать, и шум позволяет им это сделать.

Помимо вопроса о том, почему нейроны шумят, нейробиологов волнует вопрос о том, как они становятся такими. Возможные источники шума существуют за пределами мозга. Например, фоторецепторы в глазах должны получить определенное количество фотонов, чтобы отреагировать на них. Но даже постоянный источник света не может гарантировать, что в глаз будет поступать постоянный поток фотонов. Таким образом, входной сигнал для нервной системы может быть ненадежным.

Кроме того, некоторые элементы работы нейрона зависят от случайных процессов. Например, электрическое состояние нейрона меняется, если меняется диффузия ионов в жидкости вокруг него. Кроме того, нейроны, как и любые другие клетки, состоят из молекулярных машин, которые не всегда работают по плану: необходимые белки могут вырабатываться недостаточно быстро, подвижные части могут застревать и т. д.Хотя эти физические сбои могутспособствовать шумности мозга, они, похоже, не полностью объясняют ее. На самом деле, если взять нейроны из коры головного мозга и поместить их в чашку Петри, они ведут себя гораздо надежнее: стимуляция этих нейронов одним и тем же способом дважды приводит к одинаковым результатам. Поэтому элементарные сбои в работе клеточных механизмов - которые могут происходить как в чашке, так и в мозге - кажутся недостаточными для объяснения шума, который обычно наблюдается.

Таким образом, бухгалтерия не сбалансирована: вносимый шум почему-то не равен производимому шуму. Можно было бы предположить, что это просто любопытная ошибка в учете; возможно, в нейронном механизме есть несколько лишних ненадежных шестеренок, или входные данные из мира еще менее стабильны, чем мы думаем. Подобные ошибки могли бы компенсировать разницу, если бы не один маленький факт: сама природа работы нейронов делает их шумоподавителями.

Чтобы понять это, представьте, что вы с друзьями играете в игру, цель которой - посмотреть, как далеко вы сможете коллективно перебросить футбольный мяч по длинному полю, пока не истечет таймер. Никто из вас не обладает хорошей практикой, и время от времени вы совершаете ошибки - кто-то пропускает пас, кто-то устает, кто-то спотыкается. Вы также иногда превосходите свои собственные ожидания, бегая слишком быстро или передавая пас слишком далеко. Если отведенное время невелико - скажем, 30 секунд, - то такие кратковременные промахи или преимущества сильно скажутся на вашей дистанции. Вы можете пробежать 150 м в одной попытке и 20 в следующей. Но если время большое, скажем, пять минут, эти колебания в результатах могут просто уравновесить друг друга: медленное начало может быть компенсировано интенсивным спринтом в конце, или выигрыш от длинного прохода может быть потерян из-за падения. В результате, чем большевремя , тем более схожей будет дистанция в каждой попытке. Другими словами, "шумность" ваших спортивных способностей со временем выравнивается.

Нейроны оказываются в похожей ситуации. Если нейрон получает достаточно входного сигнала за определенный промежуток времени, он выдает спайк (см. рис. 12). Получаемый им входной сигнал является шумовым, поскольку он поступает от других нейронов. Так, в один момент нейрон может получить, скажем, пять входных сигналов, в следующий - 13, а после этого - ноль. Как и в примере с игрой, если нейрон будет долгое время принимать шумовые сигналы, прежде чем решить, достаточно ли их для всплеска, влияние шума уменьшится. Однако если он использует только быстрый снимок входного сигнала, шум будет доминировать.

Сколько же времени нейрон комбинирует свои входные сигналы? Около 20 миллисекунд. Это может показаться мало, но для нейрона это очень много. Спайк длится всего 1 миллисекунду, а клетка может получать множество импульсов одновременно со всех своих входов. Поэтому нейроны должны уметь брать среднее значение по многим снимкам входного сигнала, прежде чем принять решение о спайке.

Неврологи Уильям Софтки и Кристоф Кох использовали простую математическую модель нейрона - модель "утечки интеграта и огня", представленную в главе 2, - чтобы проверить именно это. В своем исследовании 1993 года они смоделировали нейрон, получающий входные сигналы в нерегулярное время. Однако сам нейрон - поскольку он интегрировал эти входящие импульсы во времени - все равно производил выходные импульсы, которые были гораздо более регулярными, чем получаемые им входные сигналы. Это означает, что нейроны действительно способны уничтожать шум - принимать шумные входные сигналы и производить менее шумные выходные сигналы.

Рисунок 12

Если бы нейроны не могли гасить шум, то ненадежность мозга не была бы такой загадкой. Как уже говорилось, можно предположить, что небольшое количество случайностей попадает в мозг - либо из внешнего мира, либо изнутри клетки - и распространяется по системе через связи между нейронами. Если бы шумные входы приводили к таким же, а возможно, и более шумным выходам, это была бы вполне самосогласованная история: шумные нейроны порождали бы шумные нейроны. Но, согласно модели Софтки и Коха, все происходит иначе. При прохождении через нейрон шум должен становиться слабее. При прохождении через целую сеть нейронов он должен был бы полностью исчезнуть. Однако куда бы ни посмотрели неврологи, он есть.

Мозг не только непредсказуем, но и, похоже, поощряет эту непредсказуемость - вопреки естественному стремлению нейронов подавить ее. Что поддерживает случайность? Есть ли в мозге генератор случайных чисел? Что-то вроде скрытой биологической игральной кости? Или, как предположили ученые 1990-х годов, все эти беспорядки на самом деле являются результатом более фундаментального порядка, баланса между возбуждением и торможением?

* * *

Эрнсту Флори потребовалось несколько визитов к мяснику из Лос-Анджелеса, чтобы обнаружить источник торможения в мозге.

В середине 1950-х годов Флори, нейробиолог немецкого происхождения, эмигрировавший в Северную Америку, работал над этим вопросом вместе со своей женой Элизабет. В то время уже был установлен факт, что нейроны общаются между собой, посылая друг другу химические вещества - так называемые нейротрансмиттеры. Однако единственные известные нейротрансмиттеры были возбуждающими - то есть химическими веществами, которые заставляли нейрон с большей вероятностью выстрелить. Однако уже с середины XIX века было известно, что некоторые нейроны могут снижать электрическую активность своих объектов. Например, братья Веберы, Эрнст и Эдуард, в 1845 году показали, что электрическая стимуляция нерва в спинном мозге может замедлить работу клеток, контролирующих биение сердца, и даже привести его к остановке. Это означало, что химическое вещество, выделяемое этими нейронами, было тормозным - оно снижало вероятность того, что клетки начнут биться.

Флори нужны были образцы для исследования "фактора I" - так он назвал вещество, отвечающее за торможение. Поэтому он регулярно ездил на своем Chevrolet 1934 года выпуска к конному мяснику и брал у него части, не столь любимые обычными покупателями: свежие мозги и спинной мозг. Выделив из этой нервной ткани различные вещества, он проверил, что произойдет, если применить каждое из них к живым нейронам, взятым у раков. В итоге он определилнесколько химических веществ-кандидатов, которые надежно успокаивали рачьи нейроны. Такое межвидовое сопряжение было, по сути, удачей со стороны Флори. Не всегда можно предположить, что нейротрансмиттеры у разных животных функционируют одинаково. Но в данном случае то, что тормозило лошадь, тормозило и раков.

С помощью профессиональных химиков Флори использовал ткань другого животного - 45 кг (100 фунтов) коровьего мозга, чтобы очистить "фактор I" до его базовой химической структуры. В итоге у него осталось 18 мг гамма-аминомасляной кислоты. Гамма-аминомасляная кислота (или ГАМК, как ее чаще называют) была первым идентифицированным тормозным нейротрансмиттером.

Является ли нейротрансмиттер тормозным или возбуждающим, зависит от глаза смотрящего - или, если говорить более технически, от рецептора нейрона-мишени. Когда нейромедиатор высвобождается из одного нейрона, химическое вещество преодолевает короткое расстояние через синапс между этим нейроном и его мишенью. Затем оно прикрепляется к рецепторам, расположенным на мембране целевого нейрона. Эти рецепторы похожи на маленькие белковые замки. Для их открытия требуется правильный ключ - то есть правильный нейромедиатор. А когда они открыты, то довольно избирательно относятся к тому, кого впускать. Например, один из видов рецепторов, к которым присоединяется ГАМК, пропускает в клетку только хлорид-ионы. Хлорид-ионы имеют отрицательный заряд, и если впустить их больше, то нейрону будет сложнее достичь электрического порога, необходимого для выстрела. Рецепторы, к которым прикрепляются возбуждающие нейротрансмиттеры, пропускают положительно заряженные ионы, например натрия, которые приближают нейрон к порогу.

Нейроны склонны выделять один и тот же нейромедиатор на все свои мишени - этот принцип известен как закон Дейла (названный в честь Генри Халлетта Дейла, который смело предположил это в 1934 году, когда были идентифицированы только два нейромедиатора). Нейроны, выделяющие ГАМК, называются "ГАМК-эргическими", хотя, поскольку ГАМК является наиболее распространенным тормозным нейромедиатором в мозге взрослого млекопитающего, их часто называют просто "тормозными". Возбуждающие передатчики немного разнообразнее, но нейроны, которые их выделяют, все равно в целом классифицируются как "возбуждающие". В пределах одной области коры возбуждающие и тормозные нейроны свободно перемешиваются, посылая связи друг к другу и получая их друг от друга.

В 1991 году, после того как многие факты о торможении были установлены, Флори написал ретроспективу о своей роли в открытии первого - и, возможно, самого важного - тормозного нейротрансмиттера. Он закончил ее фразой: "Что бы ни делал мозг для разума, мы можем быть уверены, что ГАМК играет в этом главную роль". Вероятно, Флори не знал, что в то же самое время развивается теория, согласно которой торможение является ключевым игроком в производстве непредсказуемости мозга.

* * *

Возвращаясь к аналогии с футбольным матчем с таймером, представьте, что к вам добавилась еще одна команда. Их цель - бороться с вами, перемещая мяч на противоположный конец поля. Когда часы остановятся, победит тот, кто окажется ближе к своей цели. Если другая команда также состоит из ваших друзей-полуспортсменов, то в среднем обе командыбудут выступать одинаково. Шумность вашего выступления все равно повлияет на результат: ваша команда может обойти другую на несколько метров в одной попытке и на столько же в другой. Но в целом это будет сбалансированная и спокойная игра.

А теперь подумайте, если бы в другой команде были профессиональные спортсмены - одни из самых сильных и быстрых игроков на свете. В этом случае у вас и ваших друзей не было бы ни единого шанса; вас бы всегда били. Именно поэтому никто не станет смотреть соревнования между карьерными футболистами и школьной командой, Тайгер Вудс против вашего отца или Годзилла против буквально мотылька. Исход всех этих матчей слишком предсказуем, чтобы быть интересным. Другими словами, нечестные бои создают постоянство; честные бои более увлекательны.

В коре головного мозга нейроны имеют тысячи связей как с возбуждающими, так и с тормозящими клетками. Благодаря этому каждая отдельная сила сильна и постоянно доминировала бы, если бы другая была хоть немного слабее. Например, без присутствия торможения сотни возбуждающих сигналов, бомбардирующих клетку в любой момент, заставили бы ее гореть почти постоянно; с другой стороны, одно только торможение привело бы клетку в состояние полного застоя. При огромной силе каждой из сторон истинная активность нейрона - это результат перетягивания каната между гигантами. То, что происходит в нейроне, - это действительно сбалансированная борьба, которую можно увидеть на Олимпийских играх, а не на школьном дворе.

Скажите этот факт специалисту по информатике, и он может начать волноваться. Это потому, что ученые-компьютерщики знают, что вычисление разницы между слишком большими и шумными числами может привести к большим проблемам. В компьютерах числамогут быть представлены только с определенным уровнем точности. Это означает, что некоторые числа необходимо округлять, что вносит погрешность или шум в вычисления. Например, компьютер с точностью только до трех цифр может представить число 18 231 как 1,82x103; оставшиеся 31 потеряются при округлении. При вычитании двух примерно равных чисел влияние этой ошибки округления может повлиять на ответ. Например, 18 231 минус 18 115 равно 116, но компьютер вычислит эту разницу как 1,82x103 минус 1,81x103, что составляет всего 10! Таким образом, компьютер отклоняется на 106. И чем больше число, тем больше будет ошибка. Например, компьютер с трехзначной точностью, вычисляющий 182 310 минус 181 150, выдаст ответ, который на 1 060 меньше истинного.

Вы бы не почувствовали себя комфортно, если бы ваш банк или кабинет врача производили вычисления подобным образом. По этой причине программистов учат писать свой код так, чтобы избежать вычитания двух очень больших чисел. Однако нейроны вычитают два больших числа - возбуждение минус торможение - в каждый момент времени. Может ли такой "баг" быть частью операционной системы мозга?

Ученые уже некоторое время размышляли над этой идеей, когда в 1994 году нейробиологи из Стэнфорда Майкл Шадлен и Уильям Ньюсом решили проверить ее на практике. Подобно работе Софтки и Коха, Шадлен и Ньюсом построили математическую модель одного нейрона и подали на него входные сигналы. Однако на этот раз нейрон получал как шумные возбуждающие, так и шумные тормозящие сигналы. Когда эти две силы противостоят друг другу, иногда побеждает возбуждение, а иногда - торможение. Эта ли эта борьба похожа на шумные вычисления и приведет ли она к появлению нейрона, которыйбудет работать нестабильно? Или нейрон все же сможет подавить шум в этих входах так же, как он подавлял возбуждающие входы в работе Софтки и Коха? Шадлен и Ньюсом обнаружили, что, действительно, при обоих этих типах входов - каждый из которых поступал с одинаково высокой скоростью - выход нейрона был зашумлен.

В боксерском поединке между любителями кратковременное ослабление внимания одного из них может позволить другому нанести небольшой удар. Однако в поединке между профессионалами такой же промах может привести к нокауту. В общем, чем сильнее две соперничающие силы, тем больше колебания в исходе их борьбы. Именно так внутренняя борьба между возбуждением и торможением в нейроне может превзойти его обычные способности к подавлению шума. Поскольку оба источника равномерно распределены, чистый вход нейрона (то есть общее возбуждение минус общее торможение) в среднем не очень велик. Но поскольку оба источника сильны, колебания вокруг этого среднего значения огромны. В один момент нейрон может оказаться намного выше своего порога возбуждения и выдать спайк. В следующий момент его может заставить замолчать волна торможения. Эти воздействия могут заставить нейрон выстрелить, когда в противном случае он бы не выстрелил, или замолчать, когда в противном случае он бы замолчал. Таким образом, баланс между возбуждением и торможением создает хаос в нейроне и помогает объяснить изменчивость мозга.

Моделирование, проведенное Шадленом и Ньюсомом, в значительной степени помогло понять, как нейроны могут оставаться шумными. Но оно не зашло достаточно далеко. Реальные нейроны получают сигналы от других реальных нейронов. Чтобы теория о том, что шум возникает в результате баланса между возбуждением и торможением, была верной, она должнаработать для целой сети возбуждающих и тормозящих нейронов. Это означает, что каждый нейрон получает входные сигналы от других нейронов, и его выходные сигналы также возвращаются к ним. Однако в моделировании Шадлена и Ньюсома участвовал всего один нейрон, который получал входные сигналы, контролируемые создателями модели. Вы не можете просто посмотреть на доходы и расходы одного домохозяйства и решить, что национальная экономика сильна. Точно так же моделирование одного нейрона не может гарантировать, что сеть нейронов будет работать так, как нужно. Как мы видели в предыдущей главе, в системе с большим количеством движущихся частей все они должны двигаться правильно, чтобы получить желаемый результат.

Чтобы заставить целую сеть производить надежный шум, требуется координация: каждый нейрон должен получать возбуждающий и тормозной вход от своих соседей примерно в равных пропорциях. При этом сеть должна быть самосогласованной - то есть каждый нейрон должен производить столько же шума, сколько он получает, ни больше, ни меньше. Может ли сеть из взаимодействующих возбуждающих и тормозящих клеток на самом деле поддерживать такой уровень шума, который наблюдается в мозге, или же шум в конце концов стихнет или взорвется?

* * *

Когда дело доходит до вопросов самосогласованности в сетях, физики знают, что делать.Как мы видели в предыдущей главе, в физике полно ситуаций, когда самосогласованность важна: например, газы, состоящие из большого количества простых частиц, где каждая частица подвержена влиянию всех окружающих ее частиц иответвлияет на них.Поэтому были разработаны методы, облегчающие работу с математикой этих взаимодействий.

В 1980-х годах израильский физик Хаим Сомполинский использовал эти методы, чтобы понять, как ведут себя материалы при различных температурах. Но в конце концов его интересы обратились к нейронам. В 1996 году Сомполинский и его коллега, физик, ставший нейробиологом, Карл ван Вресвейк применили физический подход к вопросу о балансе в мозге. Подражая математике, используемой для понимания взаимодействующих частиц, они записали несколько простых уравнений, которые представляли очень большую популяцию взаимодействующих возбуждающих и тормозящих клеток. Эта популяция также получала внешние сигналы, представляющие собой связи, поступающие из других областей мозга.

С помощью простых уравнений ван Вресвейк и Сомполински смогли математически определить, какое поведение они хотели бы видеть в модели. Например, клетки должны быть способны поддерживать активность, но не слишком активную (например, не должны безостановочно стрелять). Кроме того, они должны реагировать на увеличение внешнего сигнала повышением средней скорости стрельбы. И, конечно же, реакция не должна быть шумной.

Введя эти требования, ван Вресвейк и Сомполински стали перебирать уравнения. Они обнаружили, что для создания полноценной сети, которая будет продолжатьнерегулярнострелятьс разумной скоростью, необходимо соблюсти некоторые условия. Например, тормозные клетки должны оказывать на возбуждающие клетки более сильное влияние, чем возбуждающие клетки друг на друга. Благодаря тому, что возбуждающие клетки получают чуть больше торможения, чем возбуждения, активность сети находится под контролем. Также важно, чтобы связи между нейронами были случайными и редкими - каждая клетка должна получать входные сигналы, скажем, от пяти или десяти процентов других клеток. Это гарантирует, что два нейрона не будут зациклены на одной и той же модели поведения.

Ни одно из требований, которые обнаружили ван Вресвейк и Сомполински, не было неразумным для мозга. И когда пара провела симуляцию сети, которая отвечала всем этим требованиям, возник необходимый баланс между возбуждением и торможением, а симулированные нейроны выглядели такими же шумными, как и реальные. Интуиция Шадлена и Ньюсома о том, как один нейрон может поддерживать шумный режим работы, действительно подтвердилась в сети взаимодействующих нейронов.

Ван Вресвейк и Сомполински не только показали, что в сети можно сбалансировать возбуждение и торможение, но и обнаружили возможную пользу от этого: нейроны в плотно сбалансированной сети быстро реагируют на входные сигналы. Когда сеть сбалансирована, она похожа на водителя, у которого каждая нога одинаково нажата на газ и тормоз. Однако этот баланс нарушается при изменении количества внешнего сигнала. Поскольку внешние сигналы являются возбуждающими - а они направлены на возбуждающие клетки сети в большей степени, чем на тормозящие, - увеличение их количества подобно увеличению веса на педали газа. После этого автомобиль разгоняется почти так же быстро, как и поступил сигнал. Однакопосле первоначальной реакциисеть восстанавливает равновесие. Взрыв возбуждения в сети заставляет тормозные нейроны срабатывать сильнее, и - подобно добавлению дополнительного груза на тормоз - сеть приходит в новое равновесие, готовая снова реагировать. Такая способность быстро реагировать на изменение входного сигнала может помочь мозгу точно идти в ногу с меняющимся миром.

Знание того, что математика работает, обнадеживает, но настоящая проверка теории происходит на реальных нейронах. В работе Ван Вресвейка и Сомполинского содержится множество предсказаний, которые нейроученые могут проверить, что и сделали Майкл Вер и Энтони Задор из лаборатории Колд-Спринг-Харбор в 2003 году. Пара записывала нейроны в слуховой коре крыс, которая отвечает за обработку звука, в то время как животным проигрывались различные звуки. Обычно, когда неврологи опускают электрод в мозг, они пытаются уловить выход нейронов - то есть их всплески. Но эти исследователи использовали другую технику, чтобы подслушать, какой вход получает нейрон - в частности, чтобы увидеть, уравновешивают ли возбуждающие и тормозящие сигналы друг друга.

Они увидели, что сразу после включения звука в клетку поступает мощный поток возбуждения. За ним почти сразу же последовал такой же приток торможения - тормоз, который следует за газом. Поэтому увеличение входного сигнала в этой реальной сети показало именно то поведение, которое ожидалось от модели. Даже при использовании более громких звуков, которые вызывали большее возбуждение, количество торможения, которое следовало за ним, всегда соответствовало ему. Казалось, что в мозге возникает баланс, как и в модели.

Чтобы исследовать еще одно предсказание модели, ученым пришлось проявить некоторую изобретательность. Ван Вресвейк и Сомполинскипоказали, что для создания сбалансированной сети сила связей между нейронами должна зависеть от общего количества связей: при большем количестве связей каждая связь может быть слабее. Жереми Барраль и Алекс Рейес из Нью-Йоркского университета хотели найти способ изменить количество связей в сети, чтобы проверить эту гипотезу.

Внутри мозга сложно контролировать рост нейронов. Поэтому в 2016 году они решили выращивать их в чашке Петри. Это экспериментальная установка, которая по своей простоте, управляемости и гибкости почти как живая версия компьютерной симуляции. Чтобы контролировать количество связей, они просто поместили в чашку разное количество нейронов; в чашках с большим количеством нейронов образовывалось больше связей. Затем они наблюдали за активностью нейронов и проверяли силу их связей. Все популяции (содержащие как возбуждающие, так и тормозящие клетки) шумели, как и положено сбалансированной сети. Но сила связей резко различалась. В блюде, где каждый нейрон имел всего около 50 связей, связи были в три раза сильнее, чем в блюде с 500 связями. На самом деле, если рассматривать все популяции, средняя сила связи была примерно равна единице, деленной на квадратный корень из числа связей - именно то, что предсказывала теория ван Вресвейка и Сомполинского.

По мере того, как искались все новые и новые доказательства, находилось все больше подтверждений тому, что мозг находится в сбалансированном состоянии. Но не все эксперименты проходили так, как предсказывала теория; не всегда наблюдался жесткий баланс между возбуждением и торможением. Есть все основания полагать, что определенныеобласти мозга , занятые выполнением определенных задач, могут с большей вероятностью демонстрировать сбалансированное поведение. Например, слуховая кора должна реагировать на быстрые изменения частоты звука, чтобы обрабатывать поступающую информацию. Поэтому быстрая реакция хорошо сбалансированных нейронов - подходящий вариант. Для других областей, где не требуется такая скорость, может быть найдено другое решение.

Прелесть баланса в том, что он берет вездесущего обитателя мозга - торможение - и заставляет его работать над решением столь же вездесущей загадки - шума. И все это без какой-либо опоры на магию: то есть без скрытого источника случайности. Шум возникает даже тогда, когда нейроны реагируют так, как и должны.

Этот контр-интуитивный факт, что хорошее поведение может привести к бедламу, очень важен. И он уже был замечен ранее. Ван Вресвейк и Сомполински ссылаются на эту историю в первом слове названия своей работы: "Хаос в нейронных сетях со сбалансированной возбуждающей и тормозной активностью".

* * *

В 1930-х годах хаоса не существовало: когда нейробиологи впервые осознали, насколько шумны нейроны, математическая теория, позволяющая понять их поведение, еще не была открыта. А когда она появилась, все произошло, казалось бы, случайно.

Кафедра метеорологии в Массачусетском технологическом институте была основана в 1941 году, как раз к приезду Эдварда Лоренца. Лоренц, родившийся в 1917 году в хорошем районе Коннектикута в семье инженера и учительницы, с ранних лет проявлял интерес к числам, картам и планетам. Степень бакалавра по математике он собирался продолжить, но, как и в случае со многими учеными его времени, вмешалась война. В 1942 году Лоренц получил задание предсказывать погоду для военно-воздушного корпуса США. Чтобы научиться этому, он прошел ускоренный курс метеорологии в Массачусетском технологическом институте. После окончания службы в армии он остался заниматься метеорологией и остался в Массачусетском технологическом институте: сначала в качестве аспиранта, затем научного сотрудника и, наконец, профессора.

Если вы когда-нибудь пытались спланировать пикник, то знаете, что предсказание погоды далеко от совершенства. Академические метеорологи, занимающиеся крупномасштабной физикой планеты, вряд ли считают ежедневное прогнозирование своей целью. Но Лоренц не переставал интересоваться этим вопросом и тем, как новая технология - компьютер - может помочь.

Уравнения, описывающие погоду, многочисленны и сложны. Перебирать их вручную, чтобы понять, как погода сейчас приведет к погоде потом, - огромная, почти невыполнимая задача (к тому времени, когда вы ее закончите, предсказываемая вами погода, скорее всего, уже пройдет). Но компьютер, вероятно, может сделать это гораздо быстрее.

В 1958 году Лоренц проверил это на практике. Он свел динамику погоды к 12 уравнениям, выбрал несколько значений для начала - скажем, западный ветер со скоростью 100 км/час - и пустил математику в ход. По ходу дела он распечатывал результаты модели на рулонах бумаги. Выглядело это достаточно похоже на погоду, со знакомыми приливами и отливами течений и температур. Однажды он захотел повторить моделирование, чтобы посмотреть, как оно будет развиваться в течение более длительного периода времени. Вместо того чтобы начинать ее с самого начала, он решил, что может запустить ее частично качестве начальных условий значения из распечатки . Нетерпение иногда является матерью открытий.

Однако цифры, которые распечатал компьютер, были неполными. Чтобы больше поместилось на странице, принтер сократил количество цифр после запятой с шести до трех. Таким образом, числа, которые Лоренц ввел во второй запуск симуляции, не совпадали с тем, что было в модели до этого. Но какое значение могут иметь несколько знаков после запятой в модели погоды всего мира? Оказывается, совсем немного. После нескольких запусков математического механизма - около двух месяцев изменения погоды в модельном времени - этот второй запуск моделирования полностью отличался от первого. То, что было жарко, стало холодно, то, что было быстро, стало медленно. То, что должно было стать повторением, превратилось в откровение.

До этого момента ученые полагали, что небольшие изменения порождают только небольшие изменения. Небольшой порыв ветра в один момент времени не должен иметь силы, чтобы сдвинуть горы впоследствии. Согласно этой догме, то, что наблюдал Лоренц, должно было произойти в результате ошибки, возможно, технической ошибки, допущенной большими и неуклюжими компьютерами того времени.

Однако Лоренц был готов увидеть, что происходит на самом деле. Как он писал в 1991 году: "Ученый всегда должен быть в поиске других объяснений, кроме тех, которые широко распространены". То, что наблюдал Лоренц, было истинным поведением математики, какимбы не интуитивным оно ни казалось. В определенных ситуациях небольшие флуктуации могут усиливаться, делая поведение непредсказуемым. Это не ошибка или заблуждение, просто так устроены сложные системы. Хаос - так назвали этот феномен математики - реален, и ученым не мешало бы попытаться понять его.

Хаотические процессы приводят к результатам, которые выглядят случайными, но на самом деле являются следствием идеального следования правилам. Источником этого обмана является печальная истина о том, что наша способность предсказывать результаты, основываясь на знании правил, гораздо более ограничена, чем считалось ранее, особенно если эти правила сложны. В своей книге "Хаос: Making a New Science" ("Создание новой науки"), рассказывающей о том, как возникла эта область, Джеймс Глик пишет: "Традиционно динамик считал, что записать уравнения системы - значит понять ее... Но из-за маленьких кусочков нелинейности в этих уравнениях динамик оказался бы беспомощным в ответе на самые простые практические вопросы о будущем системы". Это наделяет даже самые простые системы, скажем, взаимодействующие бильярдные шары или качающиеся маятники, потенциалом порождать нечто удивительное". Он продолжает: "Те, кто изучал хаотическую динамику, обнаружили, что беспорядочное поведение простых систем действует как творческий процесс. Оно порождает сложность: богато организованные паттерны, иногда стабильные, иногда нестабильные, иногда конечные, иногда бесконечные".

Хаос творился в атмосфере - и если ван Вресвейк и Сомполинский были правы, то он творился и в мозге. Поэтому объяснение того, почему мозг реагирует на повторяющиеся сигналы с разнообразием, не обязательно связано с несовершенством клеточных механизмов. Это не значит, что в мозге нет источников шума (например, ненадежных ионных каналов или сломанных рецепторов), просто такой сложный объект, как мозг, с его взаимодействующими пулами возбуждения и торможения, не обязан демонстрировать богатые и нерегулярные реакции. В деле, при моделировании сети ван Вресвейку и Сомполински достаточно было изменить начальное состояние одного нейрона - с "горящего" на "не горящий" или наоборот - чтобы создать совершенно иную картину активности во всей совокупности. Если столь незначительное изменение может вызвать такие нарушения, способность мозга поддерживать шум кажется не такой уж загадочной.

* * *

В медицинских центрах по всему миру пациенты с эпилепсией проводят несколько дней - вплоть до недели - в маленьких комнатах. Эти "мониторинговые" комнаты обычно оснащены телевизором - для пациентов - и камерами, которые следят за движениями пациента - для врачей. Днем и ночью пациенты подключены к аппарату электроэнцефалограммы (ЭЭГ), который фиксирует поведение их мозга. Они надеются, что полученная информация поможет лечить их припадки.

Электроды ЭЭГ, прикрепленные с помощью наклеек и скотча к коже головы, отслеживают электрическую активность, производимую расположенным под ними мозгом. Каждый электрод дает одно измерение - сложную комбинацию активности многих и многих нейронов одновременно. Это сигнал, который изменяется во времени, как на сейсмографе. Когда пациенты бодрствуют, сигнал представляет собой неровную и волнистую линию: он беспорядочно движется вверх и вниз, но без выраженного ритма. Когда пациенты спят (особенно в глубоком сне без сновидений), на ЭЭГ возникают волны: большие движения вверх и вниз, продолжающиеся в течение секунды или более. Когда происходит интересующее нас событие - припадок, - движения становятся еще более резкими. Сигнал совершает большие, быстрые движения вверх и вниз, три-четыре раза в секунду, как ребенок, бешено рисующий мелком.

Что делают нейроны, чтобы создать такие сильные сигналы во время припадка? Они работают вместе. Подобно хорошо обученному военному строю, они маршируют в такт: срабатывают в унисон, затем замолкают и снова срабатывают. В результате возникает повторяющийся, синхронный всплеск активности, который заставляет сигнал ЭЭГ подниматься и опускаться снова и снова. Таким образом, припадок является противоположностью случайности - это идеальный порядок и предсказуемость.

Те же нейроны, которые вызывают припадок, также производят медленные волны сна и нормальную шумную активность, необходимую для повседневного познания. Как одна и та же цепь может демонстрировать такие разные модели поведения? И как она переключается между ними?

В конце 1990-х годов французский нейробиолог-вычислитель Николя Брюнель задался целью понять могут вести себя различные схемы. В частности, основываясь на работах ван Вресвейка и Сомполинского, он хотел изучить, как ведут себя модели, состоящие из возбуждающих и тормозных нейронов. Для этого Брунель исследовал пространство параметров этих моделей.

Параметры - это ручки, которые можно поворачивать в модели. Они представляют собой значения, которые определяют конкретные характеристики, например количество нейронов в сети или количество входов для каждого из них. Как и обычное пространство, пространство параметров можно исследовать в разных направлениях, но здесь каждое направление соответствует отдельному параметру. Брюнель решил исследовать два параметра: во-первых, сколько внешних сигналов получает сеть (т.е. сигналов из других областей мозга) и, во-вторых, насколько сильны тормозные связи в сети по сравнению с возбуждающими. Немного изменяя каждый из этих параметров и перебирая уравнения, Брюнель мог проверить, как поведение сети зависит от этих значений.

Проделав это для множества различных значений параметров, вы получите карту поведения модели. Широта и долгота на этой карте (см. рис. 13) соответствуют двум параметрам, которые варьировал Брюнель, соответственно. Для сети, расположенной в середине карты, торможение точно равно возбуждению, а вход в сеть имеет среднюю силу. В движении влево по карте возбуждение становится сильнее торможения; движется вправо и наоборот. Двигаясь вверх, вход в сеть становится сильнее, вниз - слабее. В таком виде сеть, которую изучали ван Вресвейк и Сомполински, - с тормозными связями, немного более сильными, чем возбуждающие, - находится чуть правее середины.

Рисунок 13

Брунель исследовал этот модельный ландшафт в поисках любых изменений в рельефе: заставляют ли определенные наборы параметров сеть вести себя кардинально по-другому? Чтобы найти первый поразительный ориентир, не нужно далеко отходить от исходной сети ван Вресвейка и Сомполински. При переходе из области, где сильнее торможение, в область, где сильнее возбуждение, происходит резкий переход. В математике такие переходы называются бифуркациями. Подобно крутому обрыву, отделяющему травянистую равнину от моря, бифуркации отмечают быстрый переход между двумя отдельными областями в пространстве параметров. На карте Брюнеля линия, где возбуждение и торможение равны, отделяет сети с нерегулярным, шумным возбуждением справа от сетей с жестким, предсказуемым возбуждением слева. В частности, когда торможение становится слишком слабым, нейроны в этих сетях прекращают свое уникальное питтер-паттер и начинают стрелять в унисон. Их жесткая синхронная активность - группы нейронов, включающиеся и выключающиеся вместе, - очень похожа на припадок.

Физиологи веками знали, что некоторые вещества действуют как конвульсанты - то есть вызывают судороги. С расширением знаний о нейромедиаторах, которое пришло в середине XX века, стало ясно, что многие из этих препаратов вмешиваются в процесс торможения. Например, бикукуллин, содержащийся в растениях по всей Северной Америке, не дает ГАМК присоединиться к рецептору. Туйон, присутствующий в малых дозах в абсенте, не дает рецепторам ГАМК пропускать хлорид-ионы. Каков бы ни был механизм, в конечном итоге эти наркотики нарушают баланс в мозге, ставя тормозящие влияния в невыгодное положение. Используя свой взгляд на поведение мозга с высоты птичьего полета, Брюнель смог увидеть, как изменение параметров мозга - с помощью наркотиков или иным способом - переводит его в различные состояния.

Путешествие на другой конец карты Брюнеля открывает еще одну модель деятельности. В этой области торможение преобладает над возбуждением. Если внешнее воздействие остается на среднем уровне, нейроны здесь не шумят. Однако стоит сдвинуться вверх или вниз, и появляются две похожие, но разные модели поведения. При высоком и низком уровне внешнего сигнала нейроны демонстрируют некоторую сплоченность. Если сложить количество нейронов, активных в каждый момент времени, то можно увидеть волны активности: короткие периоды более чем средней интенсивности стрельбы, за которыми следует меньшая. Но в отличие от военной точности припадка, сеть здесь больше похожа на ударную секцию, состоящую из шестилетних детей: здесь есть определенная организация, но не все постоянно играют вместе. Фактически, отдельный нейрон в этих сетях участвует только в каждой третьей или четвертой волне - и даже тогда их синхронизация не всегда идеальна. Таким образом, эти состояния одновременно и осциллирующие, и шумные.

Особенность, которая отличает поведение в правом верхнем углу карты от поведения в правом нижнем, - это частота колебаний. Если на сеть подавать сильные внешние сигналы, средняя активность будет быстро меняться вверх и вниз - до 180 раз в секунду. Сильный входной сигнал приводит в движение возбуждающие клетки, которые заставляют тормозящие клетки отключиться; затем тормозящие клетки отключаются сами, и все повторяется. Если уменьшить входной сигнал сети, она будет колебаться медленнее, около 20 раз в секунду. Эти медленные колебания происходят потому, что внешний вход в сеть настолько слаб, а торможение настолько сильно, что многие нейроны просто не получают достаточно входного сигнала для возбуждения. Однако те из них, которые срабатывают, используют свои связи, чтобы медленно оживить сеть. Если же активируется слишком много тормозных клеток, сеть снова становится тихой.

Несмотря на поверхностное сходство с припадком, эти беспорядочные колебания на самом деле не являются изнурительными. На самом деле ученые наблюдали осцилляции в самых разных частях мозга при самых разных условиях. Группы нейронов в зрительной коре, например, могут колебаться с частотой 60 раз в секунду. Гиппокамп (машина для обработки памяти из прошлой главы) иногда колеблется быстро, а иногда медленно. Обонятельная луковица, где обрабатываются запахи, генерирует волны с частотой от одного раза в секунду (что совпадает с частотой вдоха) до сотни раз. Колебания можно обнаружить повсюду, если присмотреться.

Математики с удовольствием наблюдают за осцилляциями. Это потому, что для математика колебания доступны. Хаос и случайность сложно уловить с помощью уравнений, но идеальная периодичность - это просто и элегантно. За тысячелетия математики разработали оборудование не только для описания колебаний, но и для предсказания их взаимодействия и обнаружения их в сигналах, которые - на нетренированный взгляд - могут вовсе не выглядеть как колебания.

Нэнси Копелл - математик, или, по крайней мере, была им раньше. Как и ее мать и сестра до нее, Копелл специализировалась на математике в бакалавриате. Затем она получила степень доктора философии5в Калифорнийском университете в Беркли в 1967 году и стала профессором математики в Северо-Восточном университете в Бостоне. Но после многих лет, проведенных на границе математики и биологии, где она брала проблемы из последней, чтобы вдохновиться идеями для первой, она начала чувствовать себя более оседлой в стране биологии. Как пишет Копелл в автобиографии: "Мой взгляд начал меняться, и я обнаружила, что физиологические явления интересуют меня не меньше, чем математические задачи, которые они порождают. Я не перестала думать математически, но проблемы интересовали меня меньше, если я не видела их связи с конкретными биологическими сетями". Многие из биологических сетей, которые ее интересовали, были нейронными, и на протяжении всей своей карьеры она изучала всевозможные колебания в мозге.

Высокочастотные колебания неврологи называют "гамма" волнами. Причина в том, что Ганс Бергер, изобретатель оригинального аппарата ЭЭГ, назвал большие медленные волны, которые он мог видеть на глаз на своем некачественном оборудовании, "альфа" волнами, а все остальное - "бета"; ученые, которые пришли после него, просто последовали его примеру, давая новым частотам, которые они находили, новые греческие буквы. Гамма-волны, хотя и быстрые, обычно невелики - или, говоря техническим языком, "низкоамплитудные". Их наличие, которое можно обнаружить с помощью современного электроэнцефалографа или электрода в мозге, ассоциируется с бдительным и внимательным умом.

В 2005 году Копелл и его коллеги придумали объяснение тому, как гамма-колебания могут помочь мозгу сосредоточиться. Их теория основана на том, что нейроны, представляющие информацию, на которую вы обращаете внимание, должны получить преимущество в колебаниях. Подумайте о попытке прослушать телефонный звонок посреди шумной комнаты. Здесь сигнал, на который вы обращаете внимание, - голос на другом конце линии - конкурирует со всеми отвлекающими звуками в комнате. В модели Копелла голос представлен одной группой возбуждающих клеток, а фоновая болтовня - другой. Обе эти группы посылают связи в общий пул тормозных нейронов и получают от него ответные связи.

Важно отметить, что нейроны, представляющие голос, поскольку они являются объектом внимания, получают немного больше входного сигнала, чем "фоновые" нейроны. Это означает, что они срабатывают первыми и более энергично. Если эти "голосовые" нейроны сработают в унисон, они - через свои связи с тормозными клетками - вызовут большое, резкое усиление тормозного возбуждения клеток. Эта волна торможения отключит клетки, представляющие как голос, так и фоновый шум. Таким образом, фоновые нейроны не получают шанса сработать и, следовательно, не могут помешать звучанию голоса. Как будто голосовые нейроны, срабатывая первыми, протискиваются в дверь и затем захлопывают ее перед фоновыми нейронами. И пока голосовые нейроны продолжают получать дополнительный вход, этот процесс будет повторяться снова и снова, создавая колебания. Фоновые нейроны будут вынуждены каждый раз молчать. В результате единственным оставшимся сигналом будет чистый звук голоса в телефоне.

Не ограничиваясь этой ролью во внимании, неврологи придумали бесчисленное множество других способов, как колебания могут помочь мозгу. Среди них - использование в навигации, памяти и движении. Предполагается, что колебания также улучшают связь между областями мозга и помогают организовать нейроны в отдельно функционирующие группы. Кроме того, существует множество теорий о том, как осцилляции нарушают работу мозга при таких заболеваниях, как шизофрения, биполярное расстройство и аутизм.

Из-за вездесущности колебаний может показаться, что их важность не вызывает сомнений, но это далеко не так. Хотя для колебаний было придумано несколько различных ролей, многие ученые по-прежнему настроены скептически.

Частично эта проблема возникает на самом первом этапе: как измеряются колебания. Вместо того чтобы записывать данные с множества нейронов одновременно, многие исследователи, интересующиеся осцилляциями, используют косвенный показатель, получаемый из жидкости, которая окружает нейроны. В частности, когда нейроны получают много входного сигнала, состав ионов в этой жидкости меняется, и это может быть использовано в качестве косвенного показателя того, насколько активна популяция. Но связь между потоками ионов в этой жидкости и реальной активностью нейронов сложна и не до конца понятна. Поэтому сложно определить, происходят ли наблюдаемые колебания на самом деле.

Ученых также могут подтолкнуть имеющиеся в их распоряжении инструменты. ЭЭГ существует уже сто лет, и с ее помощью легко обнаружить колебания даже у человека; эксперименты можно провести за полдня на желающих (обычно студентах). Как уже говорилось, аналогичная легкость и привычность относится и к математическим инструментам анализа осцилляций. Это может заставить исследователей с большей вероятностью искать эти мозговые волны, даже в тех случаях, когда они могут дать не самые лучшие ответы. Перефразируя старую пословицу, можно сказать, что когда молоток - это самый простой инструмент, который вы можете использовать, вы начинаете искать гвозди.

Другой вопрос - влияние, особенно когда речь идет о быстрых колебаниях, таких как гамма. Если в одном состоянии мозга гамма-волны сильнее, чем в другом, это означает, что в этом состоянии большее количество нейронов срабатывает как часть волны, а не спорадически, сами по себе. Но когда эти волны приходят так быстро, принадлежность к одной из них может заставить нейрон сработать лишь на несколько миллисекунд раньше или позже. Может ли такая временная точность иметь значение? Или все, что имеет значение, - это общее количество произведенных спайков? Многие изящные гипотезы о том, как осцилляции могут помочь, не были проверены напрямую - и могут быть довольно сложными для проверки, - поэтому ответы на них неизвестны.

Как сказал нейробиолог Крис Мур в интервью Science Daily в 2019 году: "Гамма-ритмы были огромной темой для споров... Некоторые очень уважаемые нейробиологи считают гамма-ритмы волшебными, объединяющими часами, которые выравнивают сигналы между областями мозга. Есть и другие, не менее уважаемые нейробиологи, которые, красясь, считают гамма-ритмы выхлопными газами вычислений: Они появляются, когда двигатель работает, но они абсолютно не важны".

При движении автомобиля могут выделяться выхлопные газы, но они не являются непосредственно тем, что заставляет его ехать. Точно так же сети нейронов могут производить колебания при выполнении вычислений, но являются ли эти колебания тем, что производит вычисления, еще предстоит выяснить.

Как было показано, взаимодействие между возбуждающими и тормозящими клетками может создать зоопарк различных паттернов стрельбы. Противостояние этих двух сил имеет как преимущества, так и риски. Это дает сети способность реагировать молниеносно и генерировать плавные ритмы, необходимые для сна. В то же время это ставит мозг в опасную близость к припадкам и создает буквальный хаос. Разобраться в такой многогранной системе может быть непросто. К счастью, разнообразные математические методы, разработанные для физики, метеорологии и понимания колебаний, помогли укротить дикую природу нейронного огня.

Глава 6. Этапы развития зрения.

Неокогнитрон и конволюционные нейронные сети

Проект "Летнее зрение" - это попытка эффективно использовать наших летних сотрудников для построения значительной части зрительной системы. Конкретная задача была выбрана отчасти потому, что ее можно разделить на подпроблемы, которые позволят людям работать независимо и при этом участвовать в создании достаточно сложной системы, чтобы стать настоящей вехой в развитии "распознавания образов".

Vision Memo No. 100 из группы искусственного интеллекта Массачусетского технологического института, 1966 г.

Лето 1966 года должно было стать летом, когда группа профессоров Массачусетского технологического института решила проблему искусственного зрения. В качестве "летних работников", которых они планировали эффективно использовать для этого проекта, выступала группа из дюжины или около того студентов-бакалавров университета. В своей записке, излагающей план проекта, профессора указали несколько конкретных навыков, которые должна была выполнять компьютерная система, разрабатываемая студентами. Она должна уметь определять различные текстуры и освещение на изображении, обозначать части изображения как передний план, а части как фон, и идентифицировать любые объекты. Один из профессоров якобы описал цели более упрощенно: "Подключить камеру к компьютеру и заставить компьютер описать то, что он видит".

Цели этого проекта не были достигнуты тем летом. Ни следующим. И многие последующие. Более того, некоторые из основных вопросов, поднятых в описании летнего проекта, остаются открытыми проблемами и по сей день. Спесь, проявленная в этом меморандуме, не удивительна для своего времени. Как уже говорилось в главе 3, 1960-е годы ознаменовались бурным ростом вычислительных возможностей и, в свою очередь, наивными надеждами на автоматизацию даже самых сложных задач. Компьютеры теперь могли делать все, что от них требовалось, нужно было только знать, о чем просить. А если речь идет о чем-то столь простом и непосредственном, как зрение, насколько это сложно?

Ответ очень сложен. Процесс обработки зрительного сигнала - восприятия света глазами и осмысления отраженного в нем внешнего мира - чрезвычайно сложен. Распространенные поговорки вроде "прямо перед глазами" или "на виду", которые используются для обозначения легкости зрения, обманчивы. Они затушевывают значительные трудности, с которыми сталкивается мозг при восприятии даже самых простых зрительных объектов. Любое чувство легкости, которое мы испытываем в отношении зрения, - это иллюзия, с трудом завоеванная миллионами лет эволюции.

Проблема зрения - это проблема обратной инженерии. В задней части глаза, в сетчатке, широкий плоский лист клеток, называемых фоторецепторами. Эти клетки чувствительны к свету. Каждая из них указывает на наличие или отсутствие (и, возможно, длину волны) света, попадающего на нее в каждый момент времени, посылая сигнал в виде электрической активности. Эта двумерная мерцающая карта клеточной активности - единственная информация, на основе которой мозг может воссоздать трехмерный мир перед собой.

Даже такое простое дело, как поиск стула в комнате, представляет собой технически сложную задачу. Стулья могут быть самых разных форм и цветов. Они также могут находиться рядом или далеко, что делает их отражение на сетчатке глаза больше или меньше. Светло в комнате или темно? С какого направления падает свет? Кресло повернуто к вам или от вас? Все эти факторы влияют на то, как именно фотоны света попадают на сетчатку. Но триллионы различных световых картин в итоге могут означать одно и то же: стул на месте. Зрительная система каким-то образом находит способ решить эту проблему сопоставления многих и одного менее чем за десятую долю секунды.

В то время, когда студенты Массачусетского технологического института работали над тем, чтобы подарить зрение компьютерам, физиологи использовали свои собственные инструменты, чтобы разгадать тайны зрения. Началось все с регистрации нейронной активности сетчатки глаза, а затем нейроны перешли к нейронам всего мозга. Поскольку, по оценкам, 30 процентов коры головного мозга приматов играет ту или иную роль в обработке зрительных сигналов, это было немалым делом.2В середине XX века многие ученые, проводившие эти эксперименты, базировались в Бостоне (многие в самом Массачусетском технологическом институте или чуть севернее, в Гарварде), и у них быстро накапливался большой объем данных, которые нужно было как-то осмыслить.

Возможно, дело в физической близости. Возможно, это было молчаливое признание огромной задачи, которую каждый из них поставил перед собой. Возможно, на первых порах сообщества были слишком малы, чтобы держаться в тени. Какова бы ни была причина, неврологи и компьютерные ученые долгое время сотрудничали в попытках понять фундаментальные вопросы зрения. Изучение зрения - того, как можно найти закономерности в световых точках, - наполнено прямым влиянием биологического на искусственное и наоборот. Гармония, возможно, не была постоянной: когда компьютерная наука начала использовать методы, которые были полезны, но не напоминали мозг, области разошлись. А когда нейробиологи вникали в мельчайшие детали клеток, химических веществ и белков, обеспечивающих биологическое зрение, компьютерщики в основном отворачивались. Но последствия взаимного влияния по-прежнему неоспоримы и хорошо видны в самых современных моделях и технологиях.

* * *

Первые попытки автоматизировать зрение появились еще до появления современных компьютеров. Хотя они были реализованы в виде механических приспособлений, некоторые идеи, лежавшие в основе этих машин, подготовили поле для последующего появления компьютерного зрения. Одной из таких идей был подбор шаблонов.

В 1920-х годах Эмануэль Гольдберг, русский химик и инженер, решил проблему, с которой столкнулись банки и другие офисы при поиске документов файловых системах. В то время документы хранились на микрофильмах - полосках 35-миллиметровой пленки, содержащих крошечные изображения документов, которые можно было проецировать на большой экран для чтения. Порядок расположения документов на пленке был мало связан с их содержанием, поэтому поиск нужного документа - например, аннулированного чека конкретного клиента банка - был связан с неструктурированным поиском. Чтобы автоматизировать этот процесс, Голдберг прибег к грубой форме "обработки изображений".

Согласно плану Голдберга, кассиры, вносящие новый чек в систему учета, должны были пометить его специальным символом, указывающим на его содержание. Например, три черные точки в ряду означали, что имя клиента начинается с буквы "А", три черные точки в треугольнике - что с буквы "Б" и так далее. Теперь, если кассир хотел найти последний чек, предъявленный, например, мистером Беркширом, ему нужно было просто найти чеки, помеченные треугольником. Таким образом, шаблон треугольника был шаблоном, и задача машины Голдберга состояла в том, чтобы соответствовать ему.

Физически эти шаблоны имели форму карточек с пробитыми в них отверстиями. Так, при поиске документов мистера Беркшира кассир брал карточку с тремя отверстиями в форме треугольника и помещал ее между лентой микрофильмов и лампочкой. Затем каждый документ на ленте автоматически подтягивался к карточке, в результате чего свет проникал через отверстия на карточке, а затем и через саму пленку. Фотоэлемент, расположенный за пленкой, фиксировал любой проходящий свет и сигнализировал об этом остальным частям машины. Для большинства документов свет проникал через пленку, так как символы на пленке не совпадали с отверстиями на карте. Но когда появлялся нужный документ, свет, проникающий через карточку, полностью блокировался узором из черных точек на пленке. Эти мини-затмения означали, что свет не попадает на фотоэлемент, и это сигнализировало остальным частям машины и кассиру, что совпадение найдено.

Подход Голдберга требовал, чтобы кассиры заранее знали, какой именно символ они ищут, и имели карту, соответствующую ему. Несмотря на свою грубость, этот стиль подбора шаблонов стал доминирующим подходом на протяжении большей части истории искусственного зрения. Когда на сцене появились компьютеры, форма шаблонов перешла из физической в цифровую.

В компьютере изображение представлено в виде сетки значений пикселей (см. рис. 14). Каждое значение пикселя - это число, указывающее на интенсивность цвета в крошечной квадратной области изображения, которую оно представляет.3 В цифровом мире шаблон - это тоже просто сетка чисел, определяющая нужный шаблон. Так, шаблон для трех точек в форме треугольника может представлять собой сетку, состоящую в основном из нулей, за исключением трех точно расположенных пикселей со значением 1. В машине Голдберга роль света, проходящего через карточку-шаблон, в компьютере была заменена математической операцией: умножением. Если значение каждого пикселя на изображении умножить на значение в том же месте шаблона, результат может сказать нам, совпадает ли изображение.

Рисунок 14

Допустим, мы ищем улыбающееся лицо на черно-белом изображении (где черные пиксели имеют значение один, а белые - ноль). Имея шаблон лица, мы можем сравнить его с изображением путем умножения. Если на изображении действительно изображено искомое лицо, то значения, составляющие шаблон, будут очень похожи на значения на изображении. Поэтому нули в шаблоне будут умножены на нули в изображении, а единицы в шаблоне - на единицы в изображении. Сложив все полученные в результате умножения значения, мы получим количество черных пикселей, одинаковых в шаблоне и на изображении, которых в случае совпадения будет много. Если на полученном нами изображении будет хмурое лицо, то некоторые пиксели вокруг рта на изображении не будут совпадать с шаблоном. Там нули в шаблоне будут умножены на единицы в изображении, и наоборот. Поскольку произведение в этих местах пикселей будет равно нулю, сумма по всему изображению не будет такой большой. Таким образом, простая сумма произведений дает представление о том, насколько изображение соответствует шаблону.

Этот метод нашел широкое применение в самых разных отраслях. Шаблоны использовались для подсчета численности толпы путем поиска лиц на фотографии. Известные географические объекты также находили на спутниковых снимках с помощью шаблонов. Можно также отслеживать количество и модели автомобилей, проезжающих через перекресток. При подборе шаблонов нам нужно только определить, что мы хотим получить, а умножение подскажет, совпадает ли это.

* * *

Представьте себе стадион - такой же, как тот, где вы смотрите футбольный матч, - но на этом стадионе вместо кричащих болельщиков трибуны заполнены кричащими демонами. И кричат они не о футболистах на поле, а скорее об образе. Точнее, у каждого из этих демонов есть своя любимая буква алфавита, и когда он видит на поле что-то похожее на эту букву, он кричит. Чем громче крик, тем больше изображение на поле похоже на любимую букву демона. На небосклоне находится еще один демон. Этот демон не смотрит на поле и не кричит, а просто наблюдает за всеми остальными демонами на стадионе. Он находит демона, который кричит громче всех, и определяет, что изображение на поле должно быть любимой буквой этого демона.

Именно так Оливер Селфридж описал процесс подбора шаблонов на конференции 1958 года. Селфридж был математиком, компьютерщиком и помощником директора Линкольн-лабс в Массачусетском технологическом институте, исследовательского центра, занимавшегося вопросами применения технологий в сфере национальной безопасности. Сам Селфридж опубликовал не так много работ. Он также так и не закончил свою докторскую диссертацию (однако в итоге он написал несколько детских книг по адресу ; предположительно, в них было меньше демонов). Несмотря на отсутствие академических результатов, его идеи все же проникли в научное сообщество, во многом благодаря кругам, в которых он вращался. Получив степень бакалавра математики в Массачусетском технологическом институте в возрасте всего 19 лет, Селфридж получил консультацию в своей докторской работе от выдающегося математика Норберта Винера и поддерживал с ним связь. Селфридж также продолжал руководить Марвином Мински, выдающимся исследователем искусственного интеллекта из главы 3. А будучи аспирантом, Селфридж дружил с Уорреном Маккалохом и некоторое время жил с Уолтером Питтсом (вы наверняка помните эту пару нейробиотиков из главы 3). Селфриджу было полезно дать своим идеям повариться в этом социальном рагу из выдающихся ученых.

Чтобы сопоставить уникальную аналогию Селфриджа с концепцией подбора шаблонов, нужно просто представить, что каждый демон держит в руках свою сетку чисел, которая представляет собой форму его буквы. Они перемножают свою сетку с изображением, суммируют эти продукты (как описано выше) и кричат с громкостью, определяемой этой суммой. Селфридж не дает подробного объяснения, почему он решил дать такое демоническое описание визуальной обработки. Единственное, что он говорит по этому поводу, - это: "Мы не собираемся извиняться за частое использование антропоморфной или биоморфной терминологии. Они кажутся полезными словами для описания наших понятий".

Большая часть представлений в презентации Селфриджа была связана с тем, что подход к подбору шаблонов несовершенен. Демоны, каждый из которых по отдельности проверял, есть ли в поле зрения его любимая буква, были не очень эффективны. Каждый из них выполнял свои совершенно отдельные вычисления, но так не должно было быть. Многие фигуры, которые демон может искать в поисках своей буквы, используются и другими демонами. Например, и демон, предпочитающий букву "А", и демон, предпочитающий букву "Н", будут искать горизонтальную полоску. Так почему бы не ввести отдельную группу демонов, чьи шаблоны и крики соответствуют более базовым характеристикам изображения, таким как горизонтальные полосы, вертикальные линии, наклонные линии, точки и т. д. Тогда буквенные демоны будут просто слушать этих демонов, а не смотреть на сами изображения, и решать, как сильно кричать, в зависимости от того, кричат ли об основных формах их буквы.

Снизу вверх Селфридж определил новый стиль стадиона, который содержал три типа демонов: "вычислительные" (те, что смотрят на изображение и кричат об основных формах), "когнитивные" (те, что слушают вычислительных демонов и кричат о буквах) и "решающие" (те, что слушают когнитивных демонов и решают, какая буква присутствует). Селфридж дал название всей модели в целом - этой стопке вопящих демонов - Пандемониум5.

Если не принимать во внимание гнусную номенклатуру, интуиция Селфриджа в отношении обработки визуальной информации оказалась весьма проницательной. Хотя концептуально прост, подбор шаблонов практически сложен. Количество необходимых шаблонов растет с увеличением числа объектов, которые вы хотите обнаружить. Если каждое изображение нужно сравнивать с каждым фильтром, то вычислений будет очень много. Шаблоны также должны более или менее точно соответствовать изображению. Но из-за огромного количества различных световых картин, которые один и тот же объект может создавать на сетчатке глаза или объективе камеры, практически невозможно определить, как должен выглядеть каждый пиксель изображения при наличии того или иного объекта. Поэтому шаблоны очень сложно разрабатывать для любых, кроме самых простых, паттернов.

Эти проблемы делают подбор шаблонов сложной задачей как для искусственных зрительных систем, так и для мозга. Однако идеи, представленные в Pandemonium, представляют собой более распределенный подход, поскольку признаки, обнаруженные вычислительными демонами, являются общими для всех когнитивных демонов. Подход также является иерархическим. То есть Pandemonium разбивает проблему зрения на два этапа: сначала ищем простые вещи, затем - более сложные.

Вместе эти свойства делают систему в целом более гибкой. Например, если Pandemonium настроен на распознавание букв первой половины алфавита, то он вполне сможет распознать и остальные. Это связано с тем, что низкоуровневые вычислительные демоны уже знают, из каких базовых форм состоят буквы. Когнитивному демону новой буквы нужно будет просто понять, как правильно слушать демонов ниже него. Таким образом, элементарные признаки работают как словарь - или набор строительных блоков, - которые можно комбинировать и рекомбинировать для обнаружения дополнительных сложных паттернов. Без такой иерархической структуры и совместного использования низкоуровневых признаков базовый подход к подбору шаблонов должен был бы создавать новый шаблон для каждой буквы с нуля.

Дизайн Pandemonium вызывает некоторые вопросы. Например, как каждый вычислительный демон узнает, о какой базовой форме ему кричать? И как когнитивные демоны узнают, кого им следует слушать? Селфридж предлагает, чтобы система узнавала ответы на эти вопросы методом проб и ошибок. Если, например, изменение того, как демон, предпочитающий "А", слушает тех, кто ниже его по рангу, помогает ему лучше обнаруживать "А", то сохраните эти изменения; в противном случае не делайте этого и попробуйте что-нибудь новое. Или, если добавление вычислительного демона, который будет кричать о новом низкоуровневом паттерне, сделает всю систему лучше в обнаружении букв, то этот новый демон останется; в противном случае он уйдет. Конечно, это сложный процесс, и его работа не гарантирована, но когда он происходит, то создается желаемый эффект - система автоматически подстраивается под тип объектов, которые ей нужно обнаружить. Например, штрихи, из которых состоят символы японского алфавита, отличаются от штрихов английского алфавита. Самообучающаяся система обнаружит различные базовые паттерны для каждого из них. Не нужно никаких предварительных или специальных знаний, просто дайте модели попробовать справиться с задачей.

Ученый-компьютерщик Леонард Ур был настолько впечатлен идеями Селфриджа и его коллег, что захотел распространить их работу в более широком масштабе. В 1963 году он написал в журнале Psychological Bulletin, обращаясь к аудитории психологов, о том, каких успехов добились компьютерные ученые в области зрения. В своей статье "Компьютеры "распознавания образов" как модели восприятия формы" он указывает, что модели того времени "фактически уже были в состоянии предложить физиологические и психологические эксперименты" и даже предупреждает, что "было бы прискорбно, если бы психологи не играли никакой роли в этом теоретическом развитии своей собственной науки". Статья является конкретным доказательством того, что эти две области всегда были взаимосвязаны. Но такие явные публичные призывы к сотрудничеству не всегда были нужны. Иногда было достаточно личных отношений.

Джером Леттвин был неврологом и психиатром из Чикаго, штат Иллинойс. Он также был другом Селфриджа, в молодости жил с ним и Питтсом в одном доме. По собственному признанию, Леттвин был "тучным неряхой" и хотел стать поэтом, но уступил желанию матери и стал врачом. Самое бунтарское, что ему удалось, - это время от времени бросать медицинскую практику, чтобы заняться научными исследованиями.

Вдохновленный работой своего друга и бывшего сожителя, Леттвин в конце 1950-х годов отправился на поиски нейронов, реагирующих на низкоуровневые характеристики - то есть на те вещи, о которых кричат демоны вычислений. Животным, которое он выбрал для изучения, была лягушка. Лягушки используют зрение в основном для быстрой рефлекторной реакции на добычу или хищника, и поэтому их зрительная система относительно проста.

Внутри сетчатки отдельные фоторецепторы, воспринимающие свет, передают свою информацию другой группе клеток, называемой ганглиозными клетками. Каждый фоторецептор соединяется со многими ганглиозными клетками, и каждая ганглиозная клетка получает входные сигналы от многих фоторецепторов. Но, что очень важно, все эти сигналы поступают из определенной ограниченной области пространства. Поэтому ганглиозная клетка реагирует только на свет, который попадает на сетчатку в определенном месте - и у каждой клетки есть свое собственное предпочтительное место.

На тот момент предполагалось, что ганглиозные клетки не выполняют особых вычислений. Их считали в основном ретрансляторами - они просто отправляли информацию об активности фоторецепторов в мозг, как почтальон. Такая картина укладывалась в рамки шаблонно-согласованного представления о визуальной обработке. Если роль мозга заключается в сравнении визуальной информации, поступающей от глаза, с набором хранящихся в памяти шаблонов, то он не хотел бы, чтобы эта информация каким-либо образом искажалась ганглиозными клетками. Но если ганглиозные клетки являются частью иерархии, где каждый уровень играет небольшую роль в конечном обнаружении сложных объектов, то они должны быть специализированы для обнаружения полезных элементарных визуальных паттернов. Таким образом, вместо того чтобы передавать информацию дословно, они должны активно ее обрабатывать и перерабатывать.

Записывая активность этих ганглиозных клеток и демонстрируя лягушке всевозможные движущиеся объекты и узоры, Леттвин обнаружил, что гипотеза иерархии верна. Более того, в работе 1959 года "Что глаз лягушки говорит мозгу лягушки" он и его соавторы описали четыре различных типа ганглиозных клеток, которые реагировали на разные простые паттерны. Одни реагировали на быстрые крупные движения, другие - на превращение света в темноту, третьи - на изогнутые объекты, которые дрожали. Эти различные категории реакций доказывали, что ганглиозные клетки были специально созданы для обнаружения различных элементарных паттернов. Эти результаты не только соответствовали представлениям Селфриджа о низкоуровневых детекторах признаков, но и подтверждали идею о том, что эти признаки специфичны для типа объектов, которые система должна обнаружить. Например, последний класс клеток лучше всего реагировал, когда небольшой темный объект быстро перемещался по фиксированному фону . Описав их в статье, Леттвин заметил: "Можно ли лучше описать систему для обнаружения доступной ошибки?

Интуиция Селфриджа оказалась верной. После находки Леттвина на лягушках сообщество стало воспринимать зрительную систему больше как стопку кричащих демонов и меньше как хранилище карточек с шаблонами.

* * *

Примерно в то же время, что и работа Леттвина, два доктора из Медицинской школы Университета Джона Хопкинса в Балтиморе исследовали зрение у кошек. Зрительная система кошки больше похожа на нашу, чем на лягушачью. Перед ней стоят сложные задачи, связанные с отслеживанием добычи и навигацией в окружающей среде, и, как следствие, она более сложна. Таким образом, работа кошачьей зрительной системы охватывает множество областей мозга, и в центре внимания врачей Дэвида Хьюбела и Торстена Визеля оказалась первичная зрительная кора. Эта область в задней части мозга представляет собой один из ранних этапов обработки зрительной информации у млекопитающих; она получает информацию от другой области мозга - таламуса, который получает информацию от самой сетчатки.

В предыдущих работах изучалось поведение нейронов в таламусе исетчатке кошек. Эти клетки, как правило, лучше всего реагируют на простые точки: либо небольшая светлая область, окруженная темной, либо небольшая темная область, окруженная светом. При этом, как и в случае с лягушкой, каждый нейрон имеет определенное местоположение точки, в котором она должна находиться, чтобы реагировать.

Хьюбел и Визель имели доступ к оборудованию для создания точек в разных местах, чтобы исследовать такие реакции сетчатки. Именно это оборудование они использовали, даже когда исследовали области мозга, расположенные далеко за пределами сетчатки. Метод отображения точек включал в себя скольжение небольшой стеклянной или металлической пластины с различными вырезанными узорами по экрану перед глазом. Хьюбел и Визель использовали его, чтобы показывать слайд за слайдом точек своим подопытным кошкам, измеряя активность нейронов в их первичной зрительной коре. Но точки просто не действовали на этот нейрон - клетка не издавала ни звука в ответ на слайды. Затем экспериментаторы заметили нечто странное: иногда нейрон реагировал - не на слайды, а на их смену. Когда одна пластина выдвигалась, а другая задвигалась, тень от края стекла проходила по сетчатке глаза кошки. Это создавало движущуюся линию, которая надежно возбуждала нейрон в первичной зрительной коре. Одно из самых знаковых открытий в нейронауке произошло почти случайно.

Спустя десятилетия, размышляя о случайности этого открытия, Хьюбел заметил: "На определенной ранней стадии развития науки степень неряшливости может быть огромным преимуществом". Но этот этап быстро прошел. К 1960 году они с Визелем переехали в Бостон, чтобы помочь основать отделение нейробиологии в Гарвардском университете, и приступили к многолетнему тщательному изучению реакций нейронов в зрительной системе.

Развивая свою счастливую случайность, Хьюбел и Визель углубились в изучение того, как работает эта реакция на движущиеся линии. Одним из их первых открытий стало то, что нейроны в первичной зрительной коре имеют не только предпочтительную ориентацию, но и предпочтительное местоположение. Нейрон не будет реагировать на любую линию, которая появляется в его любимом месте. Нейроны, предпочитающие горизонтальную ориентацию, требуют горизонтальной линии, нейроны, предпочитающие вертикальную ориентацию, требуют вертикальных линий, нейроны, предпочитающие 30-градусный наклон, требуют 30-градусных наклонных линий, и так далее, и так далее. Чтобы понять, что это значит, вы можете держать ручку горизонтально перед лицом и двигать ею вверх-вниз. Вы только что возбудили группу нейронов в первичной зрительной коре. Наклоните ручку в другую сторону - и вы возбудите другую группу нейронов (теперь вы можете бесплатно проводить целенаправленную стимуляцию мозга в домашних условиях).

Поняв, что такое ориентация, Хьюбел и Визель открыли алфавит, используемый кошачьим мозгом для представления изображений. У мух есть детекторы жучков, а у кошек (и других млекопитающих) - детекторы линий. Однако они не ограничились наблюдением за этими реакциями, а пошли дальше и задались вопросом, как нейроны в первичной зрительной коре могли получить такие реакции. Ведь клетки, от которых они получают входные сигналы - клетки в таламусе - реагируют на точки, а не на линии. Так откуда же взялось предпочтение линий?

Решение заключалось в предположении, что нейроны в коре получают идеально подобранный набор входных сигналов от таламуса. Линия, конечно, не что иное, как набор правильно расположенных точек. Поэтому входные сигналы для нейрона в первичной зрительной коре должны поступать от множества нейронов таламуса, каждый из которых представляет точку в ряду точек. Таким образом, первичный зрительный нейрон будет срабатывать чаще всего, когда линия охватывает все эти точки (см. рис. 15). Подобно когнитивные демоны прислушиваются к крикам демонов, которые ищут части своего письма, нейроны в первичной зрительной коре прислушиваются к активности нейронов в таламусе, составляющих предпочитаемую ими линию

Хьюбел и Визель заметили и другой тип нейронов: те, которые также имели предпочтительную ориентацию, но не были столь строги к расположению. Эти нейроны реагировали, если линия появлялась в области, которая была примерно в четыре раза больше, чем у других нейронов, которые они регистрировали. Как эти нейроны могли так реагировать? Ответ, опять же, заключается в том, что они получают правильные входные сигналы. В частности, "сложный" нейрон - так Хьюбел и Визель обозначили эти клетки - просто нуждался во входе от группы обычных (или "простых") нейронов. Все эти простые клетки должны иметь одинаковые предпочтительные ориентации, но немного отличаться по предпочтительному расположению. Таким образом, сложная клетка наследует ориентационные предпочтения своих входов, но имеет пространственное предпочтение, которое больше, чем у любого из них. Такая пространственная гибкость очень важна. Если мы хотим знать, находится ли перед нами буква "А", небольшое колебание в точном расположении ее линий не должно иметь значения. Сложные ячейки построены таким образом, чтобы отбрасывать дрожание.

Рисунок 15

Открытие сложных клеток позволило получить дополнительный кусочек головоломки, объясняющей, как точки света становятся объектами восприятия. В дополнение к распознаванию признаков, осуществляемому простыми клетками, к списку вычислений, выполняемых зрительной системой, добавилось объединение входных сигналов в пространстве. За всю работу по изучению этой системы Хьюбел и Визель были удостоены Нобелевской премии в 1981 году. В своей нобелевской лекции Хьюбел четко сформулировал их цели: "Наша идея изначально заключалась в том, чтобы подчеркнуть тенденцию к увеличению сложности по мере продвижения по центру зрительного тракта и возможность учета поведения клетки в терминах ее входов "7.Этот подход, хотя и был простым, достаточно хорошо отражал многие основные свойства зрительного тракта.

* * *

На другом конце света - в японской национальной организации общественного вещания NHK, расположенной в Токио, - Кунихико Фукусима услышал о простых свойствах зрительной системы. Фукусима был инженером и сотрудником исследовательского отдела NHK.Поскольку NHK была вещательной компанией (и транслировала визуальные и аудиосигналы в глаза и уши людей), в ее штате также были группы нейрофизиологов и психологов, которые изучали, как сенсорные сигналы воспринимаются мозгом. Эти три группы - психологи, физиологи и инженеры - регулярно встречались, чтобы поделиться результатами работы в своих областях. Однажды коллега Фукусимы решил представить работу Хьюбела и Визеля.

Когда Фукусима увидел это четкое описание роли нейронов в зрительной системе, он задался целью реализовать те же функции в компьютерной модели. В качестве входного сигнала в его модели использовались изображения простых белых узоров на черном фоне. Чтобы приблизить работу таламуса, был создан лист искусственных нейронов, которые реагировали на белые точки на изображении. Это служило способом передачи информации об изображении в сеть. Отсюда нужно было рассчитать входные данные для простых клеток.

Для этого Фукусима использовала стандартный подход, заключающийся в создании сетки чисел, представляющих собой обнаруживаемый образец, который в случае простой клетки представляет собой линию с определенной ориентацией. В инженерной терминологии такая сетка чисел называется фильтром. Чтобы имитировать пространственные предпочтения простых клеток, Фукусима применил этот фильтр отдельно к каждому месту на изображении. В частности, активность одной простой клетки рассчитывалась как сумма активности таламуса в одном месте, умноженная на фильтр. Продвижение фильтра по всему изображению создавало набор простых клеток с одинаковой предпочтительной ориентацией, но разным предпочтительным расположением. Этот процесс известен в математике как свертка.

Создав несколько фильтров, каждый из которых представлял собой линию с разной ориентацией, и свернув каждый из них с изображением, Фукусима создал целую популяцию простых клеток, каждая из которых имела свою предпочтительную ориентацию и местоположение, как и мозг. Для сложных клеток он просто дал им сильные сигналы от горстки простых клеток, которые все представляли одну и ту же ориентацию в соседних местах. Таким образом, они будут активны, если ориентация появится в любом из этих мест.

Эта первая версия модели Фукусимы была практически прямым переводом физиологических данных Хьюбела и Визеля в математику и компьютерный код - и, в некотором роде, она работала. Она могла выполнять некоторые простые визуальные задачи, например, находить изогнутые линии на черно-белом изображении, но это была далеко не полноценная зрительная система, и Фукусима знал это. Как он позже рассказывал в интервью, после публикации этой работы в конце 1960-х годов Фукусима терпеливо ждал, что же откроют Хьюбел и Визель дальше; он хотел узнать, что делают более поздние стадии обработки зрительных сигналов, чтобы добавить их в свою модель.

Но знаменитая пара физиологов так и не предоставила эту информацию. После первоначальной работы по каталогизации типов клеток Хьюбел и Визель исследовали реакции клеток в других зрительных областях, но так и не смогли дать столь же чистое описание, как для первичной зрительной коры. В конце концов они перешли к изучению того, как развивается зрительная система у молодых животных.

Не имея сценария, предоставленного биологией, Фукусима должен был импровизировать. Решение, которое он придумал, заключалось в том, чтобы взять имеющуюся у него структуру - простые клетки, проецирующиеся на сложные клетки, - и повторить ее. Укладка простых и сложных клеток друг на друга снова и снова создает расширенную иерархию, через которую может проходить визуальная информация. В частности, это означает, что после начального слоя сложных клеток второй круг "простых" клеток. Этот второй слой простых клеток будет следить не за простыми особенностями изображения, а за простыми "особенностями" в деятельности сложных клеток, от которых они получают информацию. Они по-прежнему использовали бы фильтры и свертки, но только применительно к активности нейронов, расположенных ниже их. Затем эти простые клетки посылают входные сигналы своим собственным сложным клеткам, которые реагируют на те же особенности в чуть большей области пространства - и затем весь процесс начинается снова.

Простые клетки ищут закономерности; сложные клетки прощают небольшое смещение этих закономерностей. Простые, сложные; простые, сложные. Снова и снова. Повторение этого риффа приводит к появлению клеток, которые реагируют на все виды паттернов. Например, чтобы простая клетка второго уровня отреагировала на букву "L", ей достаточно получить сигнал от сложной клетки с горизонтальным предпочтением в одном месте и от сложной клетки с вертикальным предпочтением в месте чуть выше и левее ее. Тогда простая клетка третьего уровня сможет легко реагировать на прямоугольник, получая входные данные от двух соответствующим образом расположенных "L"-клеток. Продвигаясь все дальше и дальше по цепочке, клетки начинают реагировать на более крупные и сложные паттерны, включая целые фигуры, объекты и даже сцены.

Единственная проблема, связанная с расширением выводов Хьюбела и Визеля таким образом, заключалась в том, что Фукусима на самом деле не знал, как клетки в разных слоях должны соединяться друг с другом. Необходимо было заполнить фильтры - сетки чисел, которые определяли бы, как реагируют простые клетки в каждом конкретном слое. Но как? Для этого Фукусима взял страницу из книги Селфриджа "Пандемониум" и обратился к обучению.

Вместо того чтобы использовать метод проб и ошибок, предложенный Селфриджем, Фукусима использовала вариант обучения, который не требует знания правильных ответов. В этой форме обучения модели просто показывают серию изображений, не сообщая, что на них изображено. Активность всех искусственных нейронов рассчитывается в ответ на каждое изображение, и связи между нейронами меняются в зависимости от того, насколько они активны (это может напомнить вам о гебистском стиле обучения). Например, если нейрон был очень активен в ответ на определенное изображение, то связи с его очень активными входами будут укрепляться. В результате этот нейрон будет сильно реагировать на это и подобные изображения в будущем. Таким образом, нейроны реагируют на определенные формы, и разные нейроны расходятся, чтобы иметь разные реакции. Таким образом, сеть способна улавливать разнообразные паттерны во входных изображениях.

В итоге модель Фукусимы состояла из трех слоев простых и сложных клеток и обучалась с помощью сгенерированных компьютером изображений цифр от нуля до четырех. Он назвал эту сеть "Неокогнитрон" и опубликовал результаты ее работы в журнале Biological Cybernetics в 1980 году.

В своих оригинальных работах Хьюбел и Визель подчеркивали, что их система классификации и номенклатура не должны восприниматься как евангелие. Мозг устроен очень сложно, и разделение нейронов всего на две категории никак не может отразить все разнообразие реакций и функций. Просто для удобства и целесообразности общения они действовали именно таким образом. Однако Фукусима добился успеха, сделав именно то, от чего предостерегали Хьюбел и Визель: он свел всю сложность зрительной системы мозга к двум очень простым вычислениям. Он принял эти описания за истинные или достаточно истинные и даже расширил их за пределы того, что они должны были описывать

Эта практика - разрушения и последующего расширения, стряхивания листьев с дерева и использования их для строительства дома - это то, что, как известно всем теоретикам и инженерам, необходимо для достижения прогресса. Фукусима хотел создать функционирующую зрительную систему в компьютере. Хьюбел и Визель дали описание зрительной системы мозга в первом приближении. Иногда первого приближения бывает достаточно.

* * *

В 1987 году, как и в любой другой год, жители Буффало, штат Нью-Йорк, отправляли через местное почтовое отделение бесчисленные счета, поздравительные открытки и письма. Жители города не знали, что, когда они вписывали в конверт пятизначный почтовый индекс получателя, этот почерк будет увековечен - оцифрован и сохранен на компьютерах по всей стране на долгие годы. Он станет частью базы данных для исследователей, пытающихся научить компьютеры читать человеческий почерк и, в свою очередь, произвести революцию в искусственном зрении.

Некоторые из исследователей, работавших над этим проектом, находились в Bell Labs, исследовательской компании, принадлежащей телекоммуникационной компании AT&T, расположенной в пригороде Нью-Джерси. Среди группы, состоящей в основном из физиков, был 28-летний французский компьютерщик по имени Янн ЛеКун. ЛеКун читал о Фукусиме и его Neocognitron и понял, что простая повторяющаяся архитектура этой модели может решить многие сложные проблемы зрения.

Однако ЛеКун также понимал, что необходимо изменить способ обучения модели связям. В частности, он хотел вернуться к подходу Селфриджа и предоставить модели доступ к изображениям, сопряженным с правильными метками о том, какая цифра на них изображена. Поэтому он изменил некоторые математические детали модели, чтобы сделать ее пригодной для другого типа обучения. При таком типе обучения, если модель неправильно классифицирует изображение (например, обозначает двойку как шестерку), все связи в модели - эти сетки чисел, определяющие, какие паттерны ищутся, - обновляются таким образом, чтобы снизить вероятность неправильной классификации этого изображения в будущем. Таким образом, модель учится тому, какие паттерны важны для идентификации цифр. Это может показаться знакомым, потому что ЛеКун использовал алгоритм обратного распространения, описанный в главе 3. Проделайте это с большим количеством изображений, и модель в целом станет довольно хорошо классифицировать изображения рукописных цифр, даже те, которые она никогда раньше не видела.

ЛеКун и его коллеги-исследователи представили впечатляющие результаты работы своей модели, обученной на тысячах цифр Буффало, в 1989 году. Так родилась "конволюционная нейронная сеть" - название, данное этому стилю модели.

Как и подходы, основанные на подборе шаблонов, которые появились до них, конволюционные нейронные сети нашли применение в реальном мире. В 1997 году эти сети стали основной частью программного обеспечения, разработанного компанией AT&T для автоматизации обработки чеков в банках Америки. К 2000 году, по оценкам, от 10 до 20 процентов чеков в Америке обрабатывались с помощью этого программного обеспечения. Очаровательный пример того, как наука исполняет свое предназначение, - мечта Голдберга об оснащении банков синтетическими визуальными системами сбылась спустя 70 лет после изобретения микрофильмирующей машины

Метод обучения сверточных нейронных сетей требователен к данным, и модель может быть настолько хороша, насколько хороша та информация, которая в нее поступает. Поэтому не менее важно получить правильную модель, чем правильные данные. Именно поэтому так важно было собрать реальные образцы реальных цифр, написанных реальными людьми. Исследователи Bell Lab могли бы поступить так же, как Фукусима, и создать компьютерные изображения цифр. Но они вряд ли смогли бы передать все разнообразие, нюансы и небрежность написания цифр в реальной жизни. Письма, прошедшие через почтовое отделение в Буффало, содержали около 10 000 примеров настоящего, человеческого почерка, что дало модели все необходимое для настоящего обучения. Убедившись в важности реальных данных, компьютерщики стали собирать их еще больше. Вскоре после набора Buffalo был собран набор данных, содержащий в шесть раз больше цифр и названный MNIST. Удивительно, но этот набор данных по-прежнему остается одним из наиболее часто используемых для быстрого тестирования новых моделей и алгоритмов искусственного зрения. Цифры для MNIST были написаны школьниками из Мэриленда и участниками переписи населения США. И хотя авторам было сказано, для чего используются их цифры в данном случае, они почти наверняка не ожидали, что их почерк будет использоваться компьютерными учеными спустя 30 лет.

Испытания конволюционных нейронных сетей не остановились на цифрах, но при переходе к более сложным изображениям они столкнулись с трудностями. В начале 2000-х годов сети, подобные сетям ЛеКуна, были обучены на другом наборе данных из 60 000 изображений, на этот раз состоящих из объектов. Изображения были маленькими и зернистыми - всего 32x32 пикселя - и могли представлять собой самолеты, автомобили, птиц, кошек, оленей, собак, лягушек, лошадей, корабли или грузовики. Хотя для нас эта задача оставалась простой, для сетей она серьезно усложнилась. Вся неоднозначность, присущая распознаванию трехмерного мира на основе двухмерных данных, проявляется, когда используются реальные изображения реальных объектов. Те же модели, которые научились распознавать цифры, с трудом справлялись с этими более реалистичными изображениями. Этот подход к искусственному зрению, похожий на мозговой, не справлялся с базовой визуальной обработкой, которую мозг выполняет каждый день.

Однако в 2012 году ситуация изменилась, когда Алекс Крижевский, Илья Суцкевер и Джеффри Хинтон из Университета Торонто с помощью конволюционной нейронной сети победили в крупном конкурсе по распознаванию изображений ImageNet Large Scale Visual Recognition Challenge. Конкурс заключался в маркировке изображений - больших (224x224 пикселя), реальных фотографий, сделанных людьми по всему миру и взятых с таких сайтов, как Flickr, - на предмет их принадлежности к одной из тысячи возможных категорий объектов. В этом очень убедительном тесте на визуальные способности конволюционная нейронная сеть дала 62 процента правильных ответов, опередив алгоритм, занявший второе место, на 10 процентных пунктов.

Как команда из Торонто добилась таких успехов? Они открыли новые вычисления, необходимые для зрения? Нашли ли они волшебную технику, помогающую модели лучше изучать свои связи? Правда в данном случае гораздо банальнее. Разница между этой конволюционной нейронной сетью и теми, что были до нее, заключалась в основном в размере. Сеть команды из Торонто насчитывала в общей сложности более 650 000 искусственных нейронов - примерно в 80 раз больше, чем сеть ЛеКуна, распознающая цифры. Эта сеть была настолько велика, что потребовались некоторые хитроумные инженерные решения, чтобы поместить модель в память компьютерных чипов, которые использовались для ее работы. Модель была велика и в другом отношении. Все эти нейроны означали, что для обучения связей между ними требовалось гораздо больше данных. Модель обучалась на 1,2 миллионах помеченных изображений, собранных профессором информатики Фей-Фей Ли в рамках базы данных ImageNet.

В 2012 году наступил переломный год для конволюционных нейронных сетей. Хотя технически достижения команды из Торонто были всего лишь количественным скачком - увеличением числа нейронов и изображений, - ошеломляющее повышение производительности качественно изменило ситуацию в этой области. Увидев, на что они способны, исследователи начали изучать конволюционные нейронные сети и пытаться сделать их еще лучше. Обычно это происходило в том же направлении: они становились больше, но были найдены и важные изменения в их структуре и способах обучения.

К 2015 году конволюционная нейронная сеть достигла уровня производительности, ожидаемого от человека в соревновании по классификации изображений (что на самом деле не является 100-процентным показателем: некоторые изображения могут быть запутанными). И теперь конволюционные нейронные сети составляют основу практически любого программного обеспечения для обработки изображений: распознавание лиц в социальных сетях, обнаружение пешеходов в самоуправляемых автомобилях и даже автоматическая диагностика заболеваний по рентгеновским снимкам. В забавном случае конволюционные нейронные сети даже использовались неврологами для автоматического определения местоположения нейронов на снимках тканей мозга. Искусственные нейронные сети теперь смотрят на настоящие.

Похоже, инженеры сделали разумный ход, обратившись к мозгу за вдохновением для создания визуальной системы. Внимание Фукусимы к функциям нейронов - и сведение этих функций к простым операциям - принесло свои плоды. Но когда он делал первые шаги в разработке этих моделей, вычислительных ресурсов и данных для их создания просто не было. Спустя десятилетия следующее поколение инженеров подхватило проект и довело его до конца. В результате современные конволюционные нейронные сети наконец-то могут решать многие задачи, которые изначально ставились в летнем проекте Массачусетского технологического института в 1966 году.

Но так же, как "Пандемониум" Селфриджа помог вдохновить нейробиологов-визуалистов, отношения между конволюционными нейронными сетями и мозгом не ограничиваются только одним путем. Неврологи получают выгоду от усилий, которые компьютерные ученые прилагают к созданию моделей, способных решать реальные визуальные задачи. Это связано с тем, что большие, тщательно обученные конволюционные нейронные сети не только хорошо распознают объекты на изображениях, но и предсказывают, как мозг будет реагировать на эти изображения.

* * *

Обработка зрительных сигналов начинается в первичной зрительной коре - именно там Хьюбел и Визель делали свои записи, - но после этого в процесс вовлекается множество областей. Первичная зрительная кора посылает связи во (вы уже догадались) вторичную зрительную кору. И после еще нескольких пересылок информация попадает в височную кору, расположенную сразу за висками.

Височная кора головного мозга уже давно связана с распознаванием объектов. Еще в 1930-х годах исследователи заметили, что повреждение этой области мозга приводит к странному поведению. Пациенты с повреждением височной коры плохо решают, на какие вещи важно обратить внимание, и поэтому легко отвлекаются. Они также не проявляют нормальной эмоциональной реакции на изображения; они могут видеть картины, которые большинству людей показались бы ужасающими, и почти не моргать. А когда они хотят изучить предметы, они могут не смотреть на них, а класть их в рот.

Понимание этой области мозга уточнялось десятилетиями тщательного наблюдения за пациентами или животными с поражениями мозга и, в конечном счете, путем регистрации активности ее нейронов. Это привело к выводу, что подчасть височной коры - "нижняя" часть в нижней части, также называемая "ИТ", - является основным местом для понимания объектов. У людей с повреждением ИТ в основном нормальное поведение и зрение, но есть более специфическая проблема - они не могут правильно называть или распознавать объекты; например, они могут не узнавать лица друзей или путать идентичность предметов, которые кажутся похожими.

Соответственно, нейроны в этой области реагируют на объекты. Некоторые нейроны имеют четкие предпочтения: один может реагировать на часы, другой - на дом, третий - на банан и т. д. Но другие клетки менее предсказуемы. Они могут предпочитать части объектов или одинаково реагировать на два разных объекта, имеющих некоторые общие черты. Некоторым клеткам также важен угол, под которым виден объект: возможно, они больше всего реагируют, если объект виден прямо, но другие клетки более снисходительны и реагируют на объект практически под любым углом. Некоторым важен размер и расположение объекта, другим - нет. В общем, ИТ - это целый мешок нейронов, заинтересованных в объектах. Хотя их не всегда легко интерпретировать, такие реакции, ориентированные на объекты, делают ИТ похожим на вершину иерархии зрительных процессов, последнюю остановку на экспрессе зрительной системы.

Неврологи десятилетиями пытались понять, как именно ИТ проявляет такие реакции. Часто они шли по стопам Фукусимы и строили модели со стопками простых и сложных клеток, надеясь, что эти вычисления будут имитировать те, которые приводят к активности ИТ, и сделают эту активность абсолютно предсказуемой. Этот подход в определенной степени сработал, но, как и в случае с "Неокогнитроном", модели были маленькими и обучались своим связям на основе небольшого набора маленьких изображений. Чтобы добиться реального прогресса, нейробиологам нужно было увеличить масштаб своих моделей так же, как это делали компьютерные ученые.

В 2014 году две отдельные группы ученых - одна под руководством Николауса Кригескорте Кембриджского университета и Джеймса ДиКарло из Массачусетского технологического института - именно так и поступили. Они показывали реальные и разнообразные изображения объектов испытуемым (людям и обезьянам) и регистрировали активность различных областей их зрительной системы, когда они рассматривали их. Они также показали те же изображения большой конволюционной нейронной сети, обученной классифицировать реальные изображения. Обе группы пришли к выводу, что эти компьютерные модели очень хорошо приближены к биологическому зрению. В частности, они показали, что если вы хотите угадать, как нейрон в ИТ отреагирует на конкретное изображение, то лучше всего - лучше, чем любой из предыдущих опробованных нейробиологами методов, - посмотреть, как на него отреагируют искусственные нейроны в сети. В частности, нейроны в последнем слое сети лучше всего предсказывали активность нейронов ИТ. Более того, нейроны предпоследнего слоя лучше всего предсказывали активность нейронов в V4 - области, которая обеспечивает вход в ИТ. Казалось, что конволюционная нейронная сеть имитирует зрительную иерархию мозга.

Показав столь поразительное соответствие между моделью и мозгом, это исследование положило начало революции в изучении биологического зрения. Оно показало, что нейробиологи в целом находятся на правильном пути, начатом Леттвином, Хьюбелом и Визелем, но им нужно быть больше и смелее. Если они хотели получить модель, которая могла бы объяснить, как животные видят объекты, то сама модель должна была быть способна видеть объекты.

Однако этот путь символизировал отказ от принципов, которые так дороги некоторым теоретикам: стремление к элегантности, простоте и эффективности моделей. Нет ничего элегантного или эффективного в 650 000 искусственных нейронов, соединенных между собой тем способом, который они нашли для работы. По сравнению с некоторыми из самых любимых и красивых уравнений в науке, эти сети - громоздкие, неприглядные чудовища. Но, в конце концов, они работают - и нет никакой гарантии, что что-то более элегантное будет работать.

Работа Селфриджа подтолкнула биологов к рассмотрению зрительной системы как иерархической системы, а эксперименты, проведенные в результате, заложили основу для разработки конволюционных нейронных сетей. Эти семена были взращены в компьютерной науке, и в итоге сотрудничество принесло плоды обеим сторонам. В целом, стремление к созданию искусственных систем, способных решать реальные визуальные задачи в реальном мире, подтолкнуло изучение биологического зрения в направлениях, в которых оно, возможно, не продвинулось бы самостоятельно. Инженерам и компьютерщикам всегда было приятно иметь в своем распоряжении зрительную систему мозга - не только для вдохновения, но и для доказательства того, что эта сложная проблема решаема. Эта взаимная признательность и влияние делают историю изучения зрения уникально переплетенной.

Глава 7. Взлом нейронного кода. Теория информации и эффективное кодирование

В то время как сердце перекачивает кровь, а легкие осуществляют газообмен, печень перерабатывает и накапливает химические вещества, а почки выводят их из крови, нервная система обрабатывает информацию.

Целью встречи 1968 года программы Neurosciences Researchбыло обсудить, как отдельные нейроны и группы нейронов обрабатывают информацию. Резюме встречи, написанное нейробиологами Теодором Баллоком и Дональдом Перкелем, не требует каких-либо жестких и быстрых выводов. Но оно описывает широкий мир возможностей для представления, преобразования, передачи и хранения информации в мозге, обобщая состояние дел в этой области.

Как следует из цитаты из их резюме, приписывать роль обработки информации мозгу кажется столь же естественным, как и говорить, что сердце перекачивает кровь. Еще до того, как в двадцатом веке слово "информация" вошло в повседневный лексикон, ученые неявно говорили об информации, которую передают нервы, часто на языке "сообщений" и "сигналов". Например, в лекции для сотрудников больницы, прочитанной в 1892 году, объясняется, что: "Существуют волокна, которые передают сообщения от различных частей тела к мозгу", и что некоторые из этих волокон "несут особые виды сообщений, как, например, нервы, связанные с органами особого чувства, которые были названы воротами знаний". В том же ключе в публикации 1870 года описывается срабатывание двигательных нейронов как "сообщение воли мышцам" и даже говорится о том, что нервная система приравнивается к доминирующей в то время технологии передачи информации - телеграфу.

Но исследования того, как нервная система представляет информацию, всерьез начались примерно за 40 лет до доклада Буллока и Перкела, с работ Эдгара Адриана в начале XX века.

Адриан во многих отношениях являл собой образ чопорного и правильного человека, занимающегося наукой. К моменту его рождения в Лондоне в 1889 году его семья проживала в Англии уже более 300 лет - в ее роду были хирург XVI века, несколько преподобных и членов правительства. Когда он был студентом, его блестящие способности регулярно отмечались его учителями. Помимо медицины во время учебы в университете, он проявлял способности к искусству, в частности к живописи и рисунку. Будучи преподавателем в Кембридже, он проводил долгие часы в лаборатории и в аудитории. В своей карьере физиолога он добился несомненного успеха. В возрасте 42 лет он стал лауреатом Нобелевской премии, а в 1955 году королева Елизавета II пожаловала ему титул, и он стал лордом Адрианом.

Но за этими официальными наградами и почестями скрывался беспокойный и хаотичный человек. Адриан был любителем острых ощущений, ему нравилось лазить по горам и гонять на быстрых машинах. Он с удовольствием проводил эксперименты над собой, в том числе, чтобы измерить мышечную активность. Известно, что он играл в замысловатые прятки с сокурсниками в долинах Озерного края Англии. Как профессор он был столь же неуловим. Он избегал незапланированных встреч, прячась в своей лаборатории, и заставлял всех любознательных студентов пытаться поймать его, когда он ехал домой на велосипеде. Он был темпераментным, и когда ему нужно было подумать, он устраивался на полке в темном шкафу. Его товарищи по лаборатории и семья описывали его движения как быстрые, отрывистые и почти постоянные. Его мысли были такими же стремительными. На протяжении своей карьеры он изучал множество различных вопросов у самых разных животных: зрение, боль, осязание и управление мышцами у лягушек, кошек, обезьян и многих других.

Эта неспособность сохранять неподвижность, физическую или умственную, возможно, стала залогом его успеха. Благодаря своим разнообразным исследованиям активности отдельных нервов он смог найти некоторые общие принципы, которые легли в основу нашего понимания нервной системы в целом. В своей книге 1928 года "Основа ощущений" Адриан объясняет свои выводы и эксперименты, которые позволили ему к ним прийти. Страницы книги пестрят разговорами о "сигналах", "сообщениях" и даже "информации", и все это вперемешку с анатомическими подробностями нервной системы и техническими проблемами, связанными с фиксацией ее активности. Это была смесь экспериментальных достижений и концептуальных идей, которые будут влиять на эту область в течение десятилетий.

В главе 3 Адриан рассказывает об эксперименте, в котором он добавляет вес к мышце лягушки, чтобы посмотреть, как отреагируют рецепторы "растяжения", отслеживающие положение мышцы. Адриан записывал показания нервов, по которым сигнал от рецепторов поступает в спинной мозг. Примение в различные грузы, Адриан подвел итог своим выводам: "Сенсорный сигнал, который поступает в центральную нервную систему при растяжении мышцы... состоит из последовательности импульсов знакомого типа. Частота повторения импульсов зависит от силы стимула, но размер каждого импульса не меняется". Этот вывод - что размер, форма или длительность потенциала действия, испускаемого этими сенсорными нейронами, не меняется, независимо от того, насколько тяжелым или легким является вес, приложенный к мышце, - Адриан назвал принципом "все или ничего".

Примеры "все или ничего" в природе нейронных импульсов повторяются на протяжении всей книги. У разных видов, для разных нервов, несущих разные сообщения, история всегда одна и та же. Потенциалы действия не меняются в зависимости от сигнала, который они передают, но их частота может меняться. Таким образом, импульсы нейрона похожи на армию муравьев - каждый из них максимально идентичен, а их сила обусловлена главным образом их численностью.

Если природа отдельного потенциала действия одинакова вне зависимости от силы или слабости вызвавшего его сенсорного стимула, то одно можно сказать наверняка: размер потенциала действия не несет информации. Благодаря вкладу Адриана физиологи теперь могли смело приступать к поиску того, где именно в нервах находится информация и как она передается.

Оставалась только одна проблема: что такое информация? Кровь, которую перекачивает сердце, и газы, которыми обмениваются легкие, - это реальные, физические субстанции. Они наблюдаемы, осязаемы и измеряемы. В то время как мы часто используем это слово, "информация" на самом деле является довольно расплывчатым и неуловимым понятием. Точное определение этого слова не так-то просто в голову большинству людей; к сожалению, оно относится к лагерю "узнаешь, когда увидишь". Не имея возможности взвесить информацию так же, как мы взвешиваем жидкости или газы, какие надежды могут быть у ученых на количественное понимание главной цели мозга?

Однако в период между выходом книги Адриана и докладом Перкела и Баллока было найдено количественное определение информации. Оно родилось в ходе научной борьбы во время Второй мировой войны и в дальнейшем неожиданно изменило мир. Его применение в изучении мозга порой было столь же трудновыполнимым, сколь и очевидным.

* * *

Клод Шеннон начал работать в Bell Labs по контракту, предоставленному американскими военными. Шел 1941 год, и Национальному комитету оборонных исследований требовались ученые, работающие над технологиями военного времени. Серьезность работы не заглушала игривых наклонностей Шеннона. Ему нравилось жонглировать, и во время работы в Bell Labs было известно, что он жонглирует по кампусу, катаясь на одноколесном велосипеде.

Шеннон родился в небольшом городке на американском Среднем Западе и рос, следуя за своим любопытством к науке, математике и инженерии, куда бы оно его ни привело. В детстве он играл с радиодеталями и любил решать числовые головоломки. Став взрослым, он создал математическую теорию жонглирования и фрисби, работающее на пламени. Ему нравилось играть в шахматы и строить машины, которые могли бы играть в шахматы. Постоянно занимаясь мастерингом, он создал множество гаджетов, некоторые из которых были более продуктивными, чем другие. Например на своем рабочем столе в Bell Labs,, он держал "Ultimate Machine": коробку с выключателем, который, если его включить, заставлял механическую руку протягиваться и выключать его.1

Для получения степени магистра Шеннон написал 72-страничную диссертацию под названием "Символический анализ релейных и коммутационных схем", которая произвела революцию в электротехнике. Для получения степени доктора философии он обратил свой математический взор к биологии, работая над "Алгеброй для теоретической генетики". Но его темой в Bell Labs была криптография. Как надежно закодировать сообщения, которые будут передаваться по земле, воздуху и воде, - естественная тема для военных. Bell Labs была центром исследований в области криптографии и даже принимала у себя знаменитого взломщика кодов Алана Тьюринга во время работы Шеннона.

Вся эта работа над кодами и сообщениями заставила Шеннона задуматься о концепции коммуникации в широком смысле. Во время войны он предложил метод математического понимания передачи сообщений. Однако из-за необходимой секретности исследований в области криптографии его идеи были засекречены. В 1948 году Шеннон наконец смог опубликовать свою работу, и "Математическая теория коммуникации" стала основополагающим документом новой области - теории информации.

В работе Шеннона описывается очень общая система связи, состоящая из пяти простых частей. Первая - это источник информации, который производит сообщение, которое будет отправлено. Далее следует передатчик, который отвечает за кодирование сообщения в форму, которая может быть передана по третьему компоненту каналу. На другом конце канала приемник декодирует информацию в исходную форму, и она отправляется в конечный пункт назначения (Рисунок 16).

В этой системе носитель сообщения не имеет значения. Это могут быть песни на радиоволнах, слова на телеграфе или изображения через Интернет. Как говорит Шеннон, компоненты его модели передачи информации "в достаточной степени идеализированы по сравнению с их физическими аналогами". Это возможно потому, что во всех этих случаях фундаментальная проблема коммуникации остается неизменной. Это проблема "точного или приблизительного воспроизведения в одной точке сообщения, выбранного в другой точке".

Рисунок 16

Имея в виду эту простую систему связи, Шеннон стремился формализовать изучение передачи информации. Но чтобы математически подойти к вопросу о том, как передается информация, ему сначала нужно было дать математическое определение информации. Опираясь на предыдущие работы, Шеннон обсуждает, какими желательными свойствами должна обладать мера информации. Некоторые из них имеют практическое значение: например, информация не должна быть отрицательной, а ее определение должно быть легко поддаваться математической обработке. Но реальное ограничение возникло из-за необходимости отразить интуицию, связанную с информацией: ее зависимость от кода.

Представьте себе школу, где все ученики носят униформу. Видя, как ученик каждый день появляется в одном и том же наряде, можно получить очень мало информации о его настроении, характере или погоде. С другой стороны, в школе, где нет униформы, выбор одежды способен передать всю эту информацию и даже больше. Например, если кто-то интересуется текущей температурой воздуха, то, увидев ученика в сарафане, а не в свитере, он может надолго развеять это любопытство. Таким образом, одежду можно использовать как код - это передаваемый набор символов, который передает смысл.

Причина, по которой студенты в униформе не могут нести эту информацию, заключается в том, что код требует вариантов. В словаре кода должно быть несколько символов (в данном случае - несколько нарядов в гардеробе студента), каждый из которых имеет свое собственное значение, чтобы любой из символов имел смысл.

Но важно не только количество символов в коде, но и то, как они используются. Допустим, у студента есть два варианта одежды: джинсы и футболка или костюм. Если студент в 99 процентах случаев носит джинсы и футболку, то из этого выбора гардероба можно извлечь не так уж много информации. Вам даже не нужно видеть студента, чтобы быть почти уверенным в том, что он одет - это, по сути, униформа. Но один день из ста, когда они появляются в костюме, говорит вам о чем-то важном. Он дает вам понять,что этот день какой-то особенный. Это говорит о том, что чем реже используется символ, тем больше информации он содержит. Обычные символы, с другой стороны, не могут передать много информации.

Шеннон хотел отразить эту связь между использованием символа и его информационным содержанием. Поэтому он определил информативность символа в терминах вероятности его появления. В частности, чтобы количество информации уменьшалось по мере увеличения вероятности появления символа, он сделал информацию символа зависящей от обратной величины его вероятности. Поскольку обратная величина числа - это просто единица, деленная на это число, большая вероятность означает меньшую "обратную вероятность". Таким образом, чем чаще используется символ, тем ниже его информативность. Наконец, чтобы удовлетворить другие математические требования, он взял логарифм этого значения.

Логарифм, или "логарифм", определяется по основанию. Например, чтобы вычислить логарифм числа по основанию 10, нужно спросить: "До какой степени нужно увеличить 10, чтобы получить это число? Логарифм 100 по основанию 10 (записывается как log10100) равен 2, потому что 10 в степени 2 (т. е. 10x10) равно 100. Таким образом, логарифм 1000 равен 3. А логарифмическая линейка от 100 до 1000 равна 2 и 3.

Шеннон решил использовать основание два для своего определения информации. Поэтому, чтобы вычислить информацию, содержащуюся в символе, нужно спросить: "До какой степени нужно возвести в степень два, чтобы получить обратную величину вероятности символа? Если взять наряд нашего студента - джинсы и футболку - как символ, который появляется с вероятностью 0,99, то его информативность равна log2(1/0,99), что составляет примерно 0,014. Костюм, который появляется с вероятностью 0,01, напротив, имеет информационное содержание log2(1/0,01) или примерно 6,64. Опять же, чем ниже вероятность, тем выше информация2.

Но Шеннона интересовала не только информация, содержащаяся в одном символе, - он хотел изучить информационное содержание кода. Код определяется набором символов и частотой использования каждого из них. Поэтому Шеннон определил общую информацию в коде как сумму информации всех его символов. Важно, что эта сумма взвешена - то есть информация каждого символа умножается на частоту использования этого символа.

Согласно этому определению, общий объем информации, содержащейся в одежде студента, составит 0,99 x 0,014 (от джинсов и футболки) + 0,01 x 6,64 (от костюма) = 0,081. Это можно считать средним количеством информации, которое мы получаем каждый день, видя наряд студента. Если бы студент решил носить джинсы 80 процентов времени, а костюм - 20 процентов, его код был бы другим. И среднее содержание информации было бы выше: 0,80 x log2(1/0,80) + 0,20 x log2(1/0,20) = 0,72.

Шеннон дал название средней скорости передачи информации в коде. Он назвал ее энтропией. Официально он объяснил это тем, что его определение информации связано с понятием энтропии в физике, где она служит мерой беспорядка. С другой стороны, Шеннон, как известно, утверждал - возможно, в шутку, - что ему посоветовали назвать свою новую меру энтропией, потому что "никто не понимает энтропию", и поэтому Шеннон, скорее всего, всегда будет выигрывать споры о своей теории.

Энтропия Шеннона отражает фундаментальный компромисс, присущий максимизации информации. Редкие вещи несут наибольшую информацию, поэтому вы хотите, чтобы их было как можно больше в вашем коде. Но чем чаще вы используете редкий символ, тем менее редким он становится. Эта борьба полностью определяет уравнение для энтропии: уменьшение вероятности символа приводит к увеличению логарифма его обратной величины - положительный вклад в информацию. Но затем это число умножается на ту же самую вероятность: это означает, что уменьшение вероятности символа приводит к уменьшению его вклада в информацию. Таким образом, чтобы максимизировать энтропию, мы должны сделать редкие символы настолько распространенными, насколько это возможно, но не более распространенными.

Использование Шенноном логарифма с основанием два делает единицей информации бит. Бит - это сокращение от двоичного разряда, и, хотя в работе Шеннона впервые встречается это слово, не он его придумал (Шеннон приписывает эту честь своему коллеге из Bell Labs Джону Тьюки). У бита как единицы информации есть полезная и интуитивно понятная интерпретация. В частности, среднее количество битов в символе равно количеству вопросов "да-нет", которые нужно задать, чтобы получить этот объем информации.

Например, попробуйте выяснить время года, в которое родился человек. Вы можете начать с вопроса: "Это переходное время года?". Если они ответят "да", вы можете спросить: "Сейчас весна?". Если они ответят "да", вы получите ответ; если "нет", у вас все равно будет ответ: осень. Если они ответили "нет" на первый вопрос, вы можете пойти противоположным путем - спросить, не родились ли они летом, и т. д. Независимо от ответа, чтобы получить его, нужно задать два вопроса "да" или "нет". Уравнение энтропии Шеннона согласуется с этим. Если предположить, что люди с одинаковой вероятностью рождаются в каждый сезон, то каждый из этих "символов" сезона будет использоваться в 25 процентах случаев. Таким образом, информация в каждом символе равна log2(1/0,25). Таким образом, среднее количество бит на символ равно двум - столько же, сколько и количество вопросов.

Часть разработки хорошей системы связи заключается в создании кода, который содержит много информации на один символ. Чтобы максимизировать среднюю информацию, которую предоставляет символ в коде, нам нужно максимизировать энтропию кода. Но, как мы видели, определение энтропии имеет внутреннее противоречие. Чтобы максимизировать ее, редкие символы должны быть нормой. Как лучше всего удовлетворить это, казалось бы, парадоксальное требование? На этот непростой вопрос, как оказалось, есть простой ответ. Чтобы максимизировать энтропию кода, каждый из его символов должен использоваться одинаково часто. У вас пять символов? Используйте каждый из них пятую часть времени. Сто символов? Вероятность использования каждого из них должна составлять 1/100 часть. Если сделать каждый символ одинаково вероятным, это уравновесит компромисс между редким и обычным общением.

Более того, чем больше символов в коде, тем лучше. Код с двумя символами, каждый из которых используется половину времени, имеет энтропию в один бит на символ (это имеет смысл в соответствии с нашим интуитивным определением бита: если представить, что один символ означает "да", а другой - "нет", то каждый символ отвечает на один вопрос "да" или "нет"). С другой стороны, код с 64 символами, каждый из которых используется одинаково, имеет энтропию шесть бит на символ.

Как бы ни был важен хороший код, кодирование - это только начало пути сообщения. В концепции связи Шеннона, после того как информация закодирована, ее еще нужно отправить по каналу к месту назначения. Именно здесь абстрактные цели передачи сообщений сталкиваются с физическими ограничениями материи и материалов.

Рассмотрим телеграф. Телеграф передает сообщения с помощью коротких импульсов электрического тока, проходящих по проводам. Сочетания коротких точек и длинных тире определяют алфавит. Например, в американской азбуке Морзе точка и тире обозначают букву "А", а две точки и тире - "U". Физические ограничения и несовершенство проводов, по которым передавались эти сообщения, особенно на большие расстояния или под океанами, накладывали ограничения на скорость передачи информации. Телеграфисты, набиравшие текст слишком быстро, рисковали столкнуть точки и тире вместе, создав нечленораздельный "боров Морзе", который был бы бесполезен для его получателя. На практике операторы могли безопасно отправлять в среднем около 100 писем в минуту.

Чтобы создать практическую меру скорости передачи информации, Шеннон объединил присущую коду скорость передачи информации с физической скоростью передачи по каналу, по которому он передается. Например, код, содержащий пять битов информации на символ и передаваемый по каналу, который может передавать 10 символов в минуту, будет иметь общую скорость передачи информации 50 битов в минуту. Максимальная скорость, с которой информация может быть передана по каналу без ошибок, называется пропускной способностью канала.

Публикация Шеннона позволила придать четкую структуру понятию, которое, как известно, было туманным. Таким образом, она заложила основу для растущей объективизации информации в последующие десятилетия. Однако непосредственное влияние работы Шеннона на обработку информации в реальном мире было незначительным. В более двух десятилетий, чтобыпоявилась технология , благодаря которой передача, хранение и обработка информации стали неотъемлемой частью повседневной жизни. А инженерам потребовалось время, чтобы понять, как использовать теорию Шеннона для практического применения в этих устройствах. Влияние теории информации на биологию, однако, проявилось гораздо быстрее.

* * *

Первое применение теории информации в биологии стало результатом войны. Генри Квастлер, австрийский врач, жил и работал в США во время Второй мировой войны. Его реакция на разработку атомной бомбы была ужасом - и действием. Он оставил частную практику и начал заниматься исследованиями медицинских и генетических последствий применения атомных бомб. Но ему нужен был способ количественной оценки того, как информация, закодированная в организме, изменяется под воздействием радиации. Эти формулы - просто находка, просто великолепно! Теперь я могу продолжать", - сказал Квастлер, узнав о теории Шеннона. В 1949 году - всего через год после публикации работы Шеннона - он написал работу под названием "Информационное содержание и коэффициент ошибок живых существ". Она положила начало изучению информации в биологии.

Нейронаука не замедлила последовать за ними. В 1952 году Уоррен Маккалох и физик Дональд Маккей опубликовали работу "Предельная информационная емкость нейронного звена". В этой работе они вывели наиболее оптимистичную, по их мнению, оценку того, сколько информации может нести один нейрон. Основываясь на среднем времени, необходимом для возникновения потенциала действия, минимальном времени между импульсами и других физиологических факторах, Маккей и Маккалох рассчитали верхнюю границу в 2 900 бит в секунду.

Маккей и Маккалох поспешили подчеркнуть, что это не означает, что нейроны действительно передают такой объем информации, а только то, что при наилучших обстоятельствах они могли бы это сделать. После их статьи последовало множество других публикаций, каждая из которых была направлена на выяснение истинной способности мозга к кодированию. Эта область была настолько переполнена попытками, что в 1967 году нейробиолог Ричард Стайн написал статью, в которой одновременно признал привлекательность теории информации для количественной оценки нервной передачи, но также посетовал на "огромные расхождения", которые возникли в результате ее применения. Действительно, в работах, последовавших за работами Маккея и Маккалоха, оценки варьировались от более высоких, чем их значение - 4000 бит в секунду на нейрон, - до значительно более низких, до одной трети бита в секунду.

Такое разнообразие отчасти объясняется различиями в представлениях о том, как части и паттерны нервной деятельности должны быть отображены на формальные компоненты теории информации Шеннона. Самый большой вопрос заключался в том, как определить символ. Какие аспекты нервной активности действительно несут информацию, а какие являются случайными? Что, по сути, представляет собой нейронный код?

Первоначальный вывод Адриана о том, что важна не высота спайка, по-прежнему оставался верным. Но даже при таком ограничении вариантов было множество. Начиная с базовой единицы - потенциала действия, ученые все равно смогли разработать множество мыслимых кодов. Маккей и Маккалох начали с того, что представили нейронный код состоящим всего из двух символов: спайк или не спайк. В каждый момент времени нейрон посылал тот или иной символ. Но, подсчитав информативность такого кода, Маккей и Маккалох поняли, что могут добиться большего. Если в качестве кода время между спайками, то нейрон сможет передавать гораздо больше информации. При такой схеме кодирования 20-миллисекундный промежуток между двумя всплесками будет означать нечто иное, чем 10-миллисекундный. Такая схема создает гораздо больше возможных символов, и именно с помощью этого стиля кодирования они получили оценку в 2 900 бит в секунду.

Стайн, пытаясь навести порядок в какофонии предлагаемых в то время кодов, остановился на третьем варианте нейронного кодирования - том, который предложил сам Адриан. Адриан, установив, что потенциалы действия не меняются при изменении стимула, утверждал, что: "Фактически, единственный способ, которым можно заставить сообщение меняться, - это изменение общего числа импульсов и частоты их повторения". Такой стиль кодирования - когда символом служит количество импульсов, произведенных за определенный промежуток времени, - известен как кодирование на основе частоты или скорости. В своей работе 1967 года Штейн доказывает существование кода, основанного на частоте, и подчеркивает его преимущества, включая более высокую устойчивость к ошибкам.

Но споры о том, что такое истинный нейронный код, не закончились со Стайном в 1967 году. Не закончились они и на встрече Буллока и Перкеля по кодированию информации в мозге годом позже. Фактически, в своем отчете об этой встрече Буллок и Перкель включили приложение, в котором излагаются десятки возможных нейронных кодов и способы их реализации.

По правде говоря, неврологи продолжают спорить и бороться за нейронный код и по сей день. Они проводят конференции, посвященные теме "Взлом нейронного кода". Они пишут статьи с такими названиями, как "В поисках нейронного кода", "Время для нового нейронного кода?" и даже "Существует ли нейронный код?". Они продолжают находить веские доказательства в пользу оригинального кодирования Адриана на основе скорости, но также и некоторые против него. Идентификация нейронного кода сейчас может показаться более отдаленной целью, чем когда Маккей и Маккалох писали свои первые размышления на эту тему.

В целом, некоторые признаки кодирования на основе скорости можно обнаружить в большинстве областей мозга. Нейроны, посылающие информацию от глаз, меняют частоту срабатывания в зависимости от интенсивности света. Нейроны, кодирующие обоняние, стреляют пропорционально концентрации предпочитаемого запаха. И, как показал Адриан, рецепторы в мышцах и рецепторы в коже стреляют сильнее, когда на них оказывается большее давление. Но самые убедительные доказательства существования других схем кодирования получены при решении сенсорных задач, требующих очень специфических решений.

Например, при локализации источника звука важно точно рассчитать время. Из-за расстояния между двумя ушами звук, идущий с левой или правой стороны, попадает в одно ухо чуть раньше, чем в другое. Этот разрыв между временем поступления звука в каждое ухо - иногда он составляет всего несколько миллионных долей секунды - дает ключ к разгадке того, откуда исходит звук. За этот расчет отвечает медиальная верхняя олива (MSO) - крошечное скопление клеток, расположенное прямо между двумя ушами.

Нейронная схема, которая может это осуществить, была предложена психологом Ллойдом Джеффрессом в 1948 году и с тех пор подтверждена множеством экспериментов. Модель Джеффресса начинается с того, что информация поступает от каждого уха в виде временного кода - то есть точное время спайков имеет значение. В МСО клетки, получающие входные сигналы от каждого уха, сравнивают относительное время этих двух входов. Например, одна клетка может быть настроена на обнаружение звуков, поступающих в оба уха одновременно. Для этого сигналы от каждого уха должны пройти одинаковое количество времени, чтобы достичь этой клетки MSO. Эта клетка срабатывает, когда получает два входных сигнала одновременно, и такой ответ указывает на то, что звук попал в оба уха одновременно (см. рис. 17).

Однако клетка, расположенная рядом с этой, получает несколько асимметричные сигналы. То есть нервному волокну из одного уха нужно пройти немного дальше, чтобы достичь этой клетки, чем нерву из другого уха. Из-за этого один из временных сигналов задерживается. От того, насколько длинный путь проходит сигнал, зависит, сколько дополнительного времени он займет. Допустим, сигналу от левого уха требуется дополнительные 100 микросекунд, чтобы достичь этой клетки МСО. Тогда единственная возможность для этой клетки получить два сигнала одновременно - это если звук попадет в левое ухо за 100 микросекунд до того, как он попадет в правое. Поэтому реакция этой клетки (которая, как и у другой клетки, возникает только тогда, когда она получает два входа одновременно) будет сигнализировать о разнице в 100 микросекунд.

Продолжая эту схему, следующая клетка может отреагировать на 200-микросекундную разницу, следующая за ней - на 300 микросекунд и так далее. В общей сложности клетки в MSO образуют карту, в одном конце которые сигнализируют о коротком времени прибытия, а на другом - о длинном. Таким образом, временной код преобразуется в пространственный: положение активного нейрона на этой карте несет информацию об источнике звука.

Рисунок 17

На вопрос о том, почему нейронный код является такой загадкой, наиболее вероятный ответ - как и на многие другие вопросы о мозге - заключается в том, что он сложен. Некоторые нейроны, в некоторых областях мозга, при определенных обстоятельствах, могут использовать код, основанный на скорости. Другие нейроны, в другое время и в другом месте, могут использовать код, основанный на синхронизации всплесков, или время между всплесками, или вообще какой-то другой код. В результате жажда взломать нейронный код, скорее всего, никогда не будет утолена. Мозг, похоже, говорит на слишком многих языках.

* * *

Эволюция не снабдила нервную систему единым нейронным кодом и не облегчила ученым по поиску множества символов, которые она использует. Но, по мнению британского нейробиолога Хораса Барлоу, эволюция, к счастью, дала один сильный путеводный свет для нашего понимания схемы кодирования мозга. Барлоу известен как один из основателей гипотезы эффективного кодирования - идеи о том, что независимо от того, какой код использует мозг, он всегда эффективно кодирует информацию.

Барлоу был стажером лорда Адриана. Он работал с ним - когда мог найти его - будучи студентом Кембриджа в 1947 году. Барлоу всегда проявлял интерес к физике и математике, но, руководствуясь соображениями практичности, выбрал медицину.5 Однако на протяжении всей учебы он понимал, как влияние более количественных предметов может определять вопросы в биологии. Эту черту он считал контрастной по отношению к своему наставнику: "Адриан совсем не был теоретиком; его позиция заключалась в том, что у нас есть средства для записи информации с нервных волокон, и мы должны просто посмотреть, что произойдет".

Быстро увлекшись уравнениями Шеннона, когда они появились, Барлоу сделал несколько ранних вкладов в изучение информации в мозге. Однако Барлоу не просто считал биты в секунду, а использовал теорию информации более глубоко. Законы информации, в некоторых отношениях, являются такими же фундаментальными и ограничивающими биологию, как и законы физики. С точки зрения Барлоу, эти уравнения могут не просто описывать мозг как он есть, но и объяснять, как он появился. Но настолько уверенным в важности этих уравнений для нейронауки, Барлоу сравнил попытку изучить мозг, не сосредоточившись на обработке информации , с попыткой понять крыло, не зная, что птицы летают

Барлоу пришел к своей гипотезе эффективного кодирования, объединив размышления о теории информации с наблюдениями за биологией. Если мозг развивался в рамках ограничений теории информации - а эволюция, как правило, находит довольно удачные решения, - то логично заключить, что мозг неплохо справляется с кодированием информации. Безопасный ход здесь - предположить, что нервная система эффективна", - писал Барлоу в работе 1961 года. Если это так, то любая загадка о том, почему нейроны реагируют так, как они реагируют, может быть решена, если предположить, что они действуют эффективно".

Но как выглядит эффективное кодирование информации? Для этого Барлоу сосредоточился на понятии избыточности. В концепции Шеннона под "избыточностью" понимается величина разрыва между максимально возможной энтропией, которую может иметь данный набор символов, и энтропией, которую он имеет на самом деле. Например, если в коде есть два символа и один из них используется в 90 процентах случаев, а другой - только в 10 процентах, его энтропия не так высока, как могла бы быть. Посылать один и тот же символ девять раз из десяти - это избыточно. Как мы видели ранее, код с самой высокой энтропией использовал бы каждый из этих символов 50 процентов времени и имел бы избыточность, равную нулю. Барлоу считал, что эффективный мозг уменьшает избыточность настолько, насколько это возможно.

Причина в том, что избыточность - это пустая трата ресурсов. Английский язык, как выяснилось, невероятно избыточен. Ярким примером этого является буква "q", за которой почти всегда следует "u"."u" добавляет мало информации, если вообще добавляет, после того как мы увидели "q", и поэтому является избыточной. Избыточность английского языка означает, что теоретически мы могли бы передать тот же объем информации с помощью гораздо меньшего количества букв. На самом деле, в своей оригинальной работе 1948 года Шеннон оценил избыточность письменного английского языка примерно в 50 процентов. Вот почему, например, люди все еще могут читать слова, которые они произносят.6

В нервной системе избыточность может проявляться в том, что несколько нейронов говорят одно и то же. Представьте, что один нейрон представляет букву "q", а другой - букву "u". Таким образом, при виде буквы "qu" срабатывают оба нейрона. Но если эти две буквы часто встречаются в мире, мозг будет эффективнее использовать только один нейрон, чтобы реагировать на них.

Почему важно, эффективно ли мозг кодирует информацию? Одна из причин - энергетические затраты. Каждый раз, когда нейрон выпускает импульс, баланс заряженных частиц внутри и снаружи клетки нарушается. Восстановление этого баланса требует энергии: маленьким насосам в клеточной мембране приходится выбрасывать из клетки ионы натрия и втягивать обратно ионы калия. Образование нейротрансмиттеров и их выведение из клетки с каждым импульсом также требует затрат. В общей сложности, по оценкам, до трех четвертей энергетического бюджета мозга уходит на отправку и прием сигналов. А мозг, потребляющий 20 процентов энергии организма и составляющий всего 2 процента от его веса, является самым энергозатратным органом. При таких высоких затратах энергии мозгу имеет смысл быть экономным в использовании своих шипов

Но чтобы знать, как эффективно отправлять информацию, мозг должен знать, какую информацию ему обычно нужно отправлять. В частности, мозг должен каким-то образом определить, когда информация, которую он получает из мира, является избыточной. Тогда он может просто не посылать ее дальше. Это позволит сохранить эффективность нейронного кода. Обладает ли нервная система способностью отслеживать статистику получаемой информации и приводить свою схему кодирования в соответствие с окружающим миром? Одно из открытий лорда Адриана - адаптация - говорит о том, что да.

В своих экспериментах с рецепторами растяжения мышц Адриан заметил, что "при постоянном раздражителе частота разрядов постепенно снижается". В частности, при сохранении постоянного веса, приложенного к мышце, частота разрядов нерва снижалась примерно наполовину в течение 10 секунд. Адриан назвал это явление "адаптацией" и определил его как "снижение возбудимости под действием стимула". Заметив этот эффект в нескольких своих экспериментах, он посвятил ему целую главу в своей книге 1928 года.

С тех пор адаптация была обнаружена во всей нервной системе. Например, "эффект водопада" - это зрительная иллюзия, когда при виде движения в одном направлении неподвижные объекты кажутся движущимися в противоположном направлении. Он назван так потому, что может возникнуть после того, как вы посмотрите на нисходящее движение водопада. Считается, что этот эффект является результатом адаптации клеток, представляющих исходное направление движения: когда эти клетки замолчали в результате адаптации, наше восприятие смещено из-за срабатывания клеток, представляющих противоположное направление.

В своей работе 1972 года Барлоу утверждает, что адаптация - это средство повышения эффективности: "Если сенсорные сообщения должны занимать место, пропорциональное их информационной ценности, то должны существовать механизмы, позволяющие уменьшить величину представления паттернов, которые постоянно присутствуют, и, предположительно, именно это лежит в основе адаптивных эффектов".

Другими словами - точнее, словами теории информации, - если один и тот же символ передается по каналу снова и снова, его присутствие больше не несет информации. Поэтому имеет смысл прекратить его передачу. Именно так и поступают нейроны: они перестают посылать импульсы, когда видят один и тот же стимул снова и снова.

С тех пор как Барлоу сделал заявление о том, что клетки должны адаптировать свои реакции к получаемым сигналам, были разработаны методы отслеживания того, как нейроны кодируют информацию, которые позволяют проводить более прямые и тонкие проверки этой гипотезы. Например, в 2001 году специалист по вычислительной нейробиологии Эдриенн Фэйрхолл вместе с коллегами из Исследовательского института NEC в Принстоне, штат Нью-Джерси, исследовали адаптивные способности зрительных нейронов у мух.

В ходе эксперимента исследователи показывали мухам на экране полоску, движущуюся вправо и влево. Сначала движение полосы было неустойчивым. В один момент она могла очень быстро двигаться влево, а в другой - так же быстро вправо, или оставаться в этом направлении, или совсем замедлиться. В общем, диапазон возможных скоростей был велик. После нескольких секунд такого хаоса бар успокоился. Его движение стало более сдержанным, он никогда не двигался слишком быстро ни в одном из направлений. В ходе эксперимента брусок несколько раз менял периоды хаотичного и спокойного движения.

Изучая активность нейронов, реагирующих на движение, исследователи обнаружили, что зрительная система быстро адаптирует свой код к информации о движении, которую она получает в данный момент. В частности, чтобы быть эффективным кодировщиком, нейрон всегда должен работать с максимальной скоростью при самом быстром движении и с минимальной - при самом медленном. Если рассматривать разные скорости работы как разные символы в нейронном коде, то такое распределение скорости работы гарантирует, что все эти символы будут использоваться примерно одинаково. Это максимизирует энтропию кода.

Проблема в том, что самое быстрое движение в период спокойствия гораздо медленнее, чем самое быстрое движение в более неустойчивый период. Это означает, что одна и та же скорость должна соответствовать двум разным темпам стрельбы в зависимости от того, в каком контексте она проявляется. Как ни странно, именно это и наблюдали Фэрхолл и его коллеги. В спокойный период, когда бар двигался с наибольшей скоростью, нейрон выстреливал более 100 шипиков в секунду. В то время как во время нестабильного периода, когда скорость движения была такой же, нейрон выстреливал всего 60 раз в секунду. Чтобы нейрон снова заработал со скоростью 100 импульсов в секунду в период нестабильности, бар должен был двигаться в 10 раз быстрее.

Кроме того, исследователи смогли определить количество информации, которую несет спайк до и после переключения между этими двумя типами движения. Во время хаотичного периода количество информации составляло около 1,5 бита на зубец. Сразу после перехода к спокойному движению она упала до 0,8 бита на зубец: нейрон, еще не адаптировавшийся к новому набору движений, оказался неэффективным кодировщиком. Однако всего через долю секунды после начала более спокойного движения количество бит на зубец снова выросло до 1,5. Нейрону потребовалось совсем немного времени, чтобы проследить за диапазоном скоростей, которые он видит, и соответствующим образом адаптировать свои импульсы. Этот эксперимент показывает, что, как и предполагает теория эффективного кодирования Барлоу, адаптация обеспечивает эффективное кодирование всех типов информации.

Неврологи также считают, что мозг устроен таким образом, чтобы создавать эффективные коды на гораздо более длительных временных интервалах, чем секунды и минуты сенсорного опыта. В процессе эволюции и развития организм имеет возможность изучить окружающую среду и адаптировать свой нейронный код к тому, что для него наиболее важно. Предполагая, что определенная область мозга лучше всего приспособлена к максимально эффективному представлению нужной информации, ученые пытаются перестроить эволюционный процесс.

Например, 30 000 нервов, отходящих от человеческого уха, реагируют на разные типы звуков. Одни нейроны предпочитают короткие всплески высокочастотных звуков, другие - низкочастотных. Одни лучше всего реагируют, когда тихий звук становится громче, другие - когда громкий звук становится тише, а третьи - когда тихий звук становится громче, а затем снова тише. В целом, каждое нервное волокно имеет сложную схему тона и громкости, которая наилучшим образом способствует его возбуждению.

Ученые в основном знают, как волокна приводят к таким реакциям. Крошечные волоски, соединенные с клетками в внутреннего уха, двигаются в ответ на звуки. Каждая клетка реагирует на разные звуки в зависимости от того, где она находится в маленькой спиралевидной мембране. Нервные волокна, выходящие из уха, получают сигналы от этих волосковых клеток. Каждое волокно комбинирует звуки по-своему, создавая свой уникальный, комбинированный профиль реакции.

Однако менее понятно, почему волокна отвечают именно так. Именно здесь могут помочь идеи из теории информации.

Если мозг действительно сокращает избыточность, как предполагает Барлоу, то одновременно должно быть активно лишь небольшое количество нейронов. Неврологи называют такую активность "разреженной".8 В 2002 году нейробиолог-вычислитель Майкл Левики задался вопросом, могут ли свойства реакции слуховых нервов быть результатом применения мозгом разреженного кода - кода, специально разработанного для звуков, которые животное должно обрабатывать.

Чтобы ответить на этот вопрос, ему пришлось собрать коллекцию различных природных звуков. Один набор звуков был взят с компакт-диска с вокализами животных тропических лесов, таких как летучие мыши, ламантины и мартышки; другой представлял собой компиляцию "фоновых" шумов, таких как хруст листьев и щелканье веток; а третий был взят из базы данных человеческих голосов, читающих английские предложения.

Затем Левицки использовал алгоритм для разложения сложных звуков на словарь коротких звуковых паттернов. Целью алгоритма было найти наилучшее разложение - то есть такое, которое может воссоздать каждый полный, естественный звук, используя как можно меньше коротких звуковых паттернов. Таким образом, алгоритм искал разреженный код. Если слуховая система мозга эволюционировала для редкого кодирования естественных звуков, то звуковые паттерны, предпочитаемые слуховыми нервами, должны совпадать с теми, которые были найдены алгоритмом.

Левики обнаружил, что при создании словаря из одних только звуков животных получаются звуковые шаблоны, которые не соответствуют биологическим. В частности, шаблоны, созданные алгоритмом, были слишком простыми - они представляли собой чистые тона, а не сложное сочетание тонов и громкости, которое предпочитают слуховые нервы людей и животных. Однако, если применить алгоритм к смеси шумов животных и фоновых звуков, то он полностью совпал с биологическими данными. Это говорит о том, что схема кодирования слуховой системы действительно соответствует этим звукам окружающей среды, что позволяет ей эффективно их кодировать. Более того, Левицки обнаружил, что словарь, составленный из человеческой речи, также воспроизводит звуковые профили, предпочитаемые биологией. Левицки воспринял это как доказательство теории о том, что человеческая речь эволюционировала, чтобы наилучшим образом использовать существующую схему кодирования слуховой системы.9

* * *

В 1959 году Барлоу представил свои идеи о свойствах мозга, связанных с обработкой информации, группе исследователей сенсорных, собравшихся в Массачусетском технологическом институте. Когда материалы этой встречи были переведены на русский язык для советской аудитории, вклад Барлоу был заметно вырезан. Оказалось, что у Советов были проблемы с использованием теории информации для понимания мозга. Считавшаяся частью "буржуазной лженауки" кибернетики, она противоречила официальной советской философии, уравнивая человека с машиной. Советские лидеры - и порой напуганные ученые под их руководством - открыто критиковали это отношение как глупый продукт американского капитализма.

Несмотря на уникальные политические мотивы, советское разоблачение было далеко не единственной критикой теории информации в биологии. В 1956 году в короткой статье под названием "Бандвагон" предостерегалось от чрезмерно бурного применения теории информации в таких областях, как психология, лингвистика, экономика и биология. Редко когда за один раз раскрывается более нескольких секретов природы. Наше несколько искусственное процветание может рухнуть в одночасье, когда мы поймем, что использование нескольких захватывающих слов, таких как информация, энтропия, избыточность, не решает всех наших проблем". Эта статья была написана самим Шенноном всего через восемь лет после того, как он открыл миру теорию информации.

Опасения по поводу того, насколько точна аналогия между системой Шеннона и мозгом, исходили даже от самих ученых, проводящих аналогию. В статье 2000 года Барлоу предупредил, что "мозг использует информацию не так, как принято в технике связи". А Перкел и Баллок в своем оригинальном докладе не стали полностью придерживаться определения информации, данного Шенноном, а, скорее рассматривали концепцию "кодирования" в мозге как метафору, которая может иметь разную степень полезности.

Осторожность оправдана. Особенно сложной частью системы Шеннона, которую можно перенести на мозг, является декодер. В простой системе связи получатель получает закодированное сообщение по каналу и просто меняет процесс кодирования на обратный, чтобы декодировать его. Например, получатель телеграфного сообщения использует ту же справочную таблицу, что и отправитель, чтобы знать, как преобразовать точки и тире обратно в буквы. Однако система в мозге вряд ли будет такой симметричной. Потому что единственными "декодерами" в мозге являются другие нейроны, и что они делают с полученным сигналом, можно только догадываться.

Возьмем, к примеру, кодирование в сетчатке глаза. Когда обнаруживается фотон света, некоторые клетки сетчатки ("включенные" клетки) кодируют это увеличением частоты своего огня, в то время как другой набор клеток ("выключенные" клетки) кодирует это уменьшением своего огня. Если это совместное изменение скорости стрельбы вверх-вниз является символом, который сетчатка обозначает приход фотона, мы можем предположить, что это также символ, который "декодируется" последующими областями мозга. Однако, похоже, это не так.

В 2019 году группа исследователей из Финляндии генетически модифицировала клетки сетчатки мыши. В частности, они сделали "включенные" клетки менее чувствительными к фотонам. Теперь при попадании фотона "выключенные" клетки все равно снижают свою активность, а "включенные" могут ее повысить, а могут и не повысить. Вопрос заключался в том, к какому набору клеток будет прислушиваться мозг? "выключенные" клетки расшифровывали информацию о фотоне. Однако животные, похоже, не использовали ее. Если оценить способность животных обнаруживать слабый свет, то окажется, что мозг считывает активность только "включенных" клеток. Если эти клетки не сигнализировали о том, что фотон обнаружен, животное не реагировало. По мнению ученых, это означает, что мозг, по крайней мере в данном случае, не декодирует всю закодированную информацию. Он игнорирует сигналы, которые посылают "выключенные" клетки. Поэтому, пишут авторы, "на пределе чувствительности зрения принципы декодирования мозга не приводят к оптимальному решению, предсказанному теорией информации". То, что ученые могут обнаружить сигнал в пиках, еще не означает, что он имеет значение для мозга.

Этому есть много причин. Одна из них заключается в том, что мозг - это машина, обрабатывающая информацию. То есть его задача - не просто воспроизводить передаваемые по нему сообщения, а преобразовывать их в действия для животного. Он выполняет вычисления над информацией, а не просто передает ее. Поэтому ожидания о том, как работает мозг, основанные исключительно на системе связи Шеннона, упускают эту важнейшую цель. Тот факт, что мозг не может оптимально передавать информацию, не обязательно указывает на недостатки в его конструкции. Просто он был создан для чего-то другого.

Нельзя было ожидать, что теория информации, придуманная как язык для создания инженерных систем связи, идеально подойдет для нервной системы. Мозг - это не просто телефонная линия. Тем не менее отдельные участки мозга занимаются этой базовой задачей - общением. Нервы действительно посылают сигналы. И делают они это с помощью некоего кода, основанного на частоте спайков, времени спайков или спайков. Поэтому взглянуть на мозг с точки зрения теории информации - вполне разумное начинание, которое принесло множество открытий и идей. Однако если смотреть слишком долго, в аналогии появляются трещины. Это и есть причина для настороженности. Таким образом, как метафора, отношения между коммуникационной системой и мозгом наиболее плодотворны, если не переусердствовать.

Глава 8. Движение в низких измерениях

. Кинетика, кинематика и снижение размерности

В середине 1990-х годов редактор местной газеты в Хьюстоне, штат Техас, обратился в Медицинский колледж Бэйлора в надежде получить помощь в решении проблемы, связанной с его левой рукой. В течение последних нескольких недель пальцы этой руки были слабыми, а кончики пальцев онемели. Мужчина, заядлый курильщик и любитель выпить, показался врачам вполне здоровым. Увидев онемение, врачи сначала искали защемление нерва в запястье. Ничего не обнаружив, они проверили спинной мозг, подозревая, что виной тому может быть поражение спинномозговых нервов. Когда и это дало отрицательный результат, врачи пошли дальше и провели сканирование мозга. Они обнаружили опухоль размером с крупную виноградину, расположенную в правой части морщинистой поверхности мозга мужчины. Она находилась на полпути между правым виском и макушкой головы, в центре области, известной как моторная кора.

Моторная кора имеет форму двух тонких полосок, начинающихся на макушке головы и идущих вниз с каждой стороны, образуя ободок, пересекающий верхнюю часть мозга. Разные части каждой полоски контролируют разные части противоположной стороны тела. В случае с редактором газеты опухоль находилась в области правой моторной коры, контролирующей руки. Она также немного распространялась на сенсорную кору - аналогично расположенную полосу сразу за моторной корой, которая контролирует ощущения. Такое расположение объясняет слабость и онемение - проблемы, которые исчезли после хирургического удаления опухоли.

С момента своего открытия около 150 лет назад моторная кора оказалась в центре многих споров. То, что мозг управляет телом, не вызывает сомнений; данные о травмах указывали на этот факт еще в эпоху пирамид в Древнем Египте. Но как он это делает - другой вопрос.

В некотором смысле связь между моторной корой и движением очень проста. Эта связь идет по пути, противоположному исследованию, проведенному врачами из Бэйлора: нейроны моторной коры с одной стороны мозга посылают сигналы нейронам спинного мозга с другой стороны, а эти нейроны спинного мозга идут прямо к определенным мышечным волокнам. Место, где нейрон спинного мозга встречается с мышцей, называется нервно-мышечным соединением. Когда этот нейрон срабатывает, он высвобождает нейромедиатор ацетилхолин в этом соединении. В ответ на ацетилхолин мышечные волокна сокращаются, и происходит движение. Через этот путь нейроны в коре головного мозга могут напрямую управлять мышцами.

Но это не единственная дорога между моторной корой и мышцами. Другие пути более извилисты. Некоторые нейроны моторной коры, например, посылают свои выходы в промежуточные области, такие как ствол мозга, базальные ганглии и мозжечок. Из этих областей связи переходят в спинной мозг. Каждая такая остановка дает возможность для дальнейшей обработки сигнала, что приводит к изменению сообщения, которое отправляется в мышцы. Более того, даже самые прямые пути не всегда просты: нейроны из моторной коры могут соединяться с множеством различных нейронов в спинном мозге, которые активируют и тормозят разные группы мышц. Таким образом, существует множество каналов, по которым кора головного мозга может общаться с мышцами, и множество возможных сообщений, которые могут быть отправлены. Влияние моторной коры на организм может быть не прямым, а очень распределенным.

Вдобавок к этой путанице под сомнение была поставлена сама необходимость существования моторной коры. Когда кора отключена от остальной части мозга, животные не могут самиинициировать многие сложные движения, но они все еще могут выполнять некоторые хорошо отработанные модели поведения. Например, такие "декортицированные" кошки будут бить когтями и наносить удары, если их сдержать, а декортицированные самцы крыс все еще способны совокупляться, если рядом находится самка. Таким образом, для некоторых из наиболее важных для выживания форм поведения моторная кора кажется излишней.

Движение - как единственный способ общения мозга с миром - является важнейшей частью головоломки неврологии. Однако точное назначение двигательной коры вызывает споры, и ее анатомия также мало помогает в ее понимании. Без этих данных трудно понять, что именно пытается сказать моторная кора. Однако, учитывая множество важных мотивов, побуждающих разобраться в загадке движения - лечение двигательных заболеваний, создание человекоподобных роботов и т. д. - ученые постоянно предпринимают попытки. На первых порах это выражалось в ожесточенных спорах о том, какие движения генерирует моторная кора. Затем последовало шествие математических методов, позволяющих понять активность ее нейронов. Хотя некоторые из самых бурных споров удалось взять под контроль, изучение моторной коры - возможно, в большей степени, чем большинство других областей нейронауки, - и сегодня переживает бурные времена.

* * *

Густав Фрич и Эдуард Хитциг изучали медицину в Берлинском университете в середине XIX века, хотя их пути там не пересеклись. После окончания медицинского факультета, как гласит история, Фрич перевязывал рану на голове во время второй датско-прусской войны, когда он понял, что определенные раздражения открытого мозга вызывают мышечные спазмы в противоположной стороне тела солдата. Хитциг, напротив, якобы занимался электрошоковой терапией, когда заметил, что удары по определенным частям головы вызывают движения глаз. Каждый врач был поражен своим собственным любопытным наблюдением и тем, какие последствия оно могло иметь. Фритч и Хитциг встретились, когда Фритч вернулся в Берлин в конце 1860-х годов. Пара решила объединить усилия, чтобы исследовать то, что тогда считалось абсурдной гипотезой: что кора головного мозга может управлять движениями.

Представление о том, что кора головного мозга вообще что-то делает, в то время считалось радикальным. Кортекс - от латинского "кожура" - считался инертной внешней оболочкой, слоем нейронной ткани, покрывающей важные области мозга, находящиеся под ним. Такое мнение сложилось в результате нескольких предыдущих экспериментов, в которых пытались стимулировать кору, но не смогли вызвать никаких интересных реакций (в ретроспективе становится ясно, что это было связано в основном с неподходящими методами стимуляции, такими как щипки, укалывание или обливание коры алкоголем). Однако Фрича, путешественника, который занимался многими вопросами, и Хитцига, сурового, гордого и тщеславного человека, подтолкнули их собственное любопытство и высокомерие, чтобы преодолеть барьер устоявшихся представлений.

Итак, на столе в доме Хитцига (Физиологический институт не располагал оборудованием для этой новой методики) Фрич и Хитциг начали электрически стимулировать кору головного мозга собак. Они подготовили платиновый электрод, прикрепив его к батарее и постучав им по языку, чтобы проверить силу тока (как сообщается, он был "достаточной интенсивности, чтобы вызвать отчетливые ощущения"). Затем они очень кратковременно прикоснулись кончиком электрода к различным участкам мозга, наблюдая за любыми движениями, которые возникали в результате. Они обнаружили, что стимуляция коры головного мозга действительно может вызвать движения - короткие подергивания или спазмы небольших групп мышц на противоположной стороне тела. При этом место стимуляции имело значение - оно определяло, какая часть тела, если таковая имелась, будет двигаться.

Последний вывод был, пожалуй, еще более еретическим, чем первый. В то время даже те немногие ученые, которые считали, что кора головного мозга может делать что-то полезное, все еще предполагали, что она работает как недифференцированная масса - паутина тканей без функциональной специализации. Не предполагалось, что она имеет упорядоченное расположение, при котором все двигательные функции располагаются одной полосой в передней части мозга. Однако стимуляция Фрича и Хитцига предполагала именно это. Проверяя свою теорию, Фрич и Хитциг нанесли на карту участок мозга, отвечающий за определенную область тела, и вырезали его, наблюдая за тем, как это повлияет на движения. Как правило, такие повреждения не приводили к полному параличу пораженной части тела, но значительно ухудшали ее контроль и функции. Доказательств существования моторной коры становилось все больше.

Работа этого немецкого дуэта совпала с открытиями другого врача, Джона Хьюлингса Джексона, который также указал на причастность этой области мозга к управлению моторикой у человека. Благодаря этим совместным открытиям середина XIX века стала поворотным пунктом в понимании роли коры головного мозга в движении - и в нейронауке в целом. Ученым пришлось столкнуться с мыслью о том, что не только кора головного мозга может что-то делать, но и ее отдельные участки могут выполнять разные функции. Воодушевленный этими неспокойными временами, подопечный Джексона по имени Дэвид Феррье приступил к детальному изучению коры головного мозга.

В 1873 году Ферриер получил возможность проводить эксперименты с двигательной системой в приюте дляWest Riding. Работая в этом престижном викторианском психиатрическом учреждении и исследовательском центре, Феррье смог воспроизвести результаты исследований Фрича и Хитцига - как стимуляцию, так и поражение - на собаках. Он также показал, что те же принципы применимы к целому ряду других животных, включая шакалов, кошек, кроликов, крыс, рыб и лягушек. Затем Феррье отправился в подробную экспедицию в двигательную зону обезьян, надеясь получить карту, которая помогла бы хирургам безопасно удалять опухоли и тромбы из мозга человека.3

Испытание целого зоопарка видов животных было не единственным способом, которым Феррье расширил работу Фрича и Хитцига: он также обновил технологию стимуляции. Гальваническая стимуляция, которую использовали Фрич и Хитциг, была разновидностью постоянного тока, который мог повреждать ткани мозга. Поэтому его можно было применять только короткими импульсами. В конце концов Феррье перешел на фарадическую стимуляцию - переменный ток, который можно было применять более последовательно. В результате Феррье мог прижимать электрод к мозгу в течение нескольких секунд. По словам Феррье, он также мог проводить стимуляцию с более высокой силой тока - "достаточной для того, чтобы вызвать резкое, но вполне терпимое ощущение, когда электроды помещались на кончик языка".

Это количественное изменение параметров стимуляции привело к качественному изменению результатов. Когда Феррье проводил стимуляцию с более длительными интервалами, он не просто получал более длительные мышечные подергивания. Вместо этого животные демонстрировали полные, сложные движения - движения, напоминающие те, которые они совершали бы в обычной жизни. Например, Феррье обнаружил участок мозга кролика, который, согласно его записям, вызывал "внезапное втягивание и поднятие или оттопыривание противоположного уха - иногда это совпадало с внезапным стартом, как будто животное собиралось рвануть вперед". У кошки определенная область отвечала за "втягивание и разгибание передней лапы". Движения выполняются быстро и похожи на те, которые кошка совершает, ударяя лапой по мячу". А при стимуляции участка, "расположенного на задней половине верхних и средних лобных извилин" мозга обезьян, Феррье наблюдал, как "глаза широко открываются, зрачки расширяются, а голова и глаза поворачиваются в противоположную сторону".

То, что столь тупая стимуляция моторной коры приводит к таким плавным и скоординированным движениям, указывает на иное понимание этой области мозга, чем у Фритча и Хитцига. Если стимуляция моторной коры приводит в движение в основном небольшие изолированные группы мышц, как считали те двое, то ее функции относительно просты. Различные участки моторной коры работают как клавиши на фортепиано, каждая из которых выдает свою ноту. Результаты исследований Феррье, напротив, представляют моторную кору как библиотеку коротких мелодий, где каждая стимуляция заставляет фрагмент движения воспроизводиться совместно несколькими группами мышц. Этот спор - ноты против мелодий, подергивания против движений - станет первым из многих споров о душе моторной коры.

Несмотря на то, что он повторил их результаты, Фрич и Хитциг не поладили с Феррье. Возможно, это произошло из-за разногласий по поводу распределения кредитов. Феррье считал, что немецкий дуэт обошел стороной его наставника Джексона, не сославшись на его работу в своей. В результате Феррьер пытался избежать наказания за то, что не ссылался на Фича и Хитцига в своих работах. Он даже дошел до того, что убрал все ссылки на свои эксперименты на собаках и говорил только о результатах, полученных на обезьянах, чтобы избежать любой связи с Фитчем и Хитцигом.4

Какова бы ни была причина, Фрич и Хитциг не доверяли работам Феррье по созданию фрагментов естественных движений. Они отстаивали превосходство короткой гальванической стимуляции и утверждали, что стимуляция Феррье была слишком длительной и что его результаты не могут быть воспроизведены. Феррье же оставался непоколебим в своей вере в то, что фарадов ток является лучшим и что быстрая гальваническая стимуляция Фрича и Хитцига "не может вызвать определенную целенаправленную комбинацию мышечных сокращений, которая является самой сутью реакции и ключом к ее интерпретации".

В то время как в крошечном микрокосме стимуляции моторной коры разгоралась борьба, в более широкой области нейронауки велась другая дискуссия. То, что функции в коре локализованы - что разные области играют разные роли, - было тем, с чем явно согласилась моторная толпа. Но в более широком сообществе это радикальное изменение в понимании все еще только зарождалось, и многие исследователи того времени поставили перед собой цель проверить границы этой теории. Так, в моду вошла попытка стимулировать как можно меньшую область коры головного мозга, чтобы увидеть, насколько локализованной может быть функция. Эта тенденция очень хорошо сочеталась с подходом Фрича и Хитцига, которые использовали короткие импульсы, чтобы вызвать отдельные движения мышц. Таким образом, их метод стал доминирующим - не потому, что это был правильный способ ответить на научный вопрос о том, что делает моторная кора, а потому, что научный вопрос изменился. Под влиянием увлечения локализацией тот факт, что небольшие мышечные движения могут быть вызваны стимуляцией, стал более важным, чем то, производит ли мозг движения таким образом в норме. Таким образом, проблема "подергивания против движений" была отодвинута на задний план более чем на столетие.

* * *

В мозге нет ничего более локального, чем отдельный нейрон. Неврологи получили возможность регистрировать активность отдельных нейронов в конце 1920-х годов. Однако для этого обычно требовалась экспериментальная установка - например, удаление нервной ткани у животных или, по крайней мере, анестезия на время записи, - что не позволяло одновременно изучать поведение. Ситуация изменилась в конце 1950-х годов, когда были разработаны электроды, которые можно было опустить в мозг бодрствующей и реагирующей обезьяны, чтобы подслушать электрические сигналы отдельных нейронов. Размышляя об этом повороте в истории нейронаук около 50 лет спустя, пионер нейронаук Вернон Маунткасл заметил, что "с тех пор эта область никогда не была прежней, и вряд ли можно преувеличить тот восторг, который испытали те из нас, кто провел годы, работая с наркотизированными или уменьшенными препаратами, увидев и поработав с мозгом в действии! Изучение моторного контроля - того, как движения и поведение генерируются мозгом, - возможно, больше всего выиграло от этого экспериментального достижения. И действительно, первыми его использовали ученые-двигателисты.

Одним из таких первых исследователей был Эдвард Эвартс, психиатр из Нью-Йорка. Эвартс был щедрым, но строгим человеком. Он очень лично относился к своей работе - даже обращался к самоанализу и личному опыту, чтобы помочь своим научным исследованиям сна и физических упражнений, - и ожидал такой же самоотдачи от других. В 1967 году, работая в Национальном институте здоровья в Бетесде (штат Мэриленд), он завершил самостоятельный проект из трех частей, посвященный реакциям нейронов в моторной коре головного мозга. Последняя часть этого исследования была посвящена вопросу, который станет основой моторной нейронауки на десятилетия вперед: какие аспекты движения представляют нейроны в моторной коре?

Чтобы задать этот вопрос, Эвартс использовал простую двигательную задачу, которая требовала лишь небольшого количества движений. В частности, он обучил обезьян держаться за вертикальный стержень и перемещать его влево и вправо. Обезьяны были вынуждены делать это, используя только один сустав - запястье. Это означало, что движение контролировалось только двумя группами мышц предплечья: сгибателями, которые приводили руку к телу, и разгибателями, которые отводили ее в другую сторону.

Одна из простых гипотез заключалась в том, что частота срабатывания нейронов в моторной коре напрямую связана с положением запястья в каждый конкретный момент времени. Если бы это было так, вы бы обнаружили нейроны, которые сильно стреляют при сгибании запястья, но не при разгибании, и другие нейроны, которые делают противоположное.

При изучении движения имеет смысл обратиться к хорошо известной математике движения. Поэтому дополнительная гипотеза для исследования Эвартса пришла из кинетики - раздела физики, который занимается причинами движения. Чтобы заставить руку двигаться, мышцы на ней сокращаются, создавая силу. При воздействии на лучезапястный сустав эта сила превращается в угловую силу, или крутящий момент. Крутящий момент определяет движение и положение руки. Если бы нейроны моторной коры кодировали силу, а не положение, то некоторые нейроны начинали бы активно работать, когда мышцы-сгибатели создавали бы силу, перемещающую запястье в одном направлении, а другие - когда мышцы-разгибатели создавали бы силу, перемещающую его в другом направлении.

В самой базовой форме этого эксперимента эти две гипотезы неразличимы. Если нейрон возбуждается, когда запястье находится в согнутом положении, то это происходит потому, что запястье находится в согнутом положении, или из-за силы, необходимой для его удержания? Кто знает? Чтобы проверить эти две гипотезы, Эвартсу нужно было разделить эти два аспекта движения. Для этого он просто добавил к стержню противовесы. Как и при установке веса на тренажере в спортзале, добавление различных противовесов к стержню делает движения легчеи ли труднее. Это изменяет количество силы, необходимой для перемещения стержня в одно и то же положение. Теперь можно сравнить скорость стрельбы, когда запястье находится в одном и том же положении, но для этого используются разные силы.

Проанализировав 31 нейрон в моторной коре, с которых велась запись, Эвартс увидел, что 26 из них имеют частоту срабатывания, которая четко связана с силой. Некоторые из них сильно реагировали на сгибание запястья и увеличивали частоту срабатывания при добавлении веса, что затрудняло сгибание (или уменьшали частоту срабатывания при добавлении веса в противоположном направлении, что облегчало сгибание). Другие нейроны предпочитали разгибание, демонстрируя ту же картину, но в противоположном направлении. Оставшиеся пять нейронов было трудно интерпретировать, но ни один из них не проявлял активности, напрямую связанной с положением запястья. Эти результаты убедительно доказывают, что моторная кора кодирует силу.

Работа Эвартса по изучению силы запястья привела в движение длинную траекторию поиска кинетики в двигательной системе. В последующие годы несколько других исследовательских групп искали и находили кинетическую информацию в частоте срабатывания нейронов моторной коры при выполнении животными простых движений. Наследие локализации остается заметным в этом подходе; в конце концов, он направлен на понимание поведения отдельных нейронов и небольших изолированных мышечных движений. Но он объединяет это понимание в более широкую, уже существующую математическую систему кинетики. С этой точки зрения, математика моторной коры может быть найдена в уравнениях любого стандартного учебника физики.

Эвартс основал современный подход к изучению моторной коры. Он предоставил хорошо контролируемый эксперимент для изучения того, как активность отдельного нейрона связана с активностью мышц, и указал на математику, которая может контекстуализировать такие результаты. Однако уже через несколько десятилетий большая часть вклада Эвартса в науку о моторике будет перечеркнута, и в этой области начнется следующая эпоха беспорядков.

* * *

А, двигательная система! К лучшему или худшему, но системные нейробиологи не имеют целостного представления о двигательной функции... У вас все еще есть мускулистые приверженцы, [которые] утверждают, что вся нейронная активность в двигательных структурах, от мозжечка до коры головного мозга, должна каким-то образом объясняться, по умолчанию, ссылкой на эту одну, реальную или виртуальную, мышцу. Конечно, это не имеет никакого смысла... Естественные движения редко, если вообще когда-либо, включают только одну мышцу.

Это слова Апостолоса Георгопулоса, профессора нейронаук из Университета Джона Хопкинса, уроженца Греции. К тому времени, когда он сказал это в 1998 году, Георгопулос уже более 15 лет сотрясал область моторной нейронауки. С Георгопулосом связывают три крупных концептуальных достижения (хотя, конечно, ни одно из них не исходило только от него - в той или иной форме они уже существовали в научной среде), и из этих трех вкладов два остаются центральными для изучения моторной коры по сей день.

Его первый вклад предсказуем из его цитаты: фокус на естественных движениях. Георгопулос обучался у знаменитого нейробиолога Вернона Маунткэсла и находился под сильным влиянием его образа мышления. Маунткэсл придерживался целостного подхода к изучению мозга. Его интересовало, как телесные ощущения представлены на каждом этапе - от тактильных нейронов в коже до использования этой сенсорной информации высшими когнитивными функциями мозга. Георгопулос хотел привнести изучение моторного контроля в великую традицию, заложенную Маунткастлом в сенсорных системах. В этом стремлении Георгопулос понимал, что ему придется отказаться от изучения неподвижных односуставных движений. Чтобы понять, как информация о движении представляется и обрабатывается мозгом, ему нужно было изучать ее в контексте естественных движений, во всей их многомышечной сложности. Для этого он обратился к одному из самых простых и важных движений в репертуаре приматов: дотягиванию.

Чтобы дотянуться до предмета, находящегося перед вами, вы полагаетесь на команду мышц, окружающих суставы руки. Как ни странно, сюда входят мышцы верхней части рук, такие как бицепс и трицепс. Кроме того, здесь задействованы передняя грудная мышца (полоса, проходящая от центра груди к руке), передняя дельтовидная (полоса перед подмышкой) и широчайшая мышца спины, latissimus dorsi, которая тянется от поясницы до подмышки. В зависимости от особенностей выполнения упражнения, могут быть задействованы запястье и пальцы. Это многомышечное движение далеко от экспериментов Эвартса по сгибанию запястья.

Чтобы изучить эту многогранную задачу, Георгопулос обучил обезьян работать на небольшом светящемся столе. Животные держали в руках стержень, подобно тому, как вы держите деревянную ложку при помешивании в большой кастрюле. Этот стержень был подключен к измерительному устройству, и, когда загоралась лампочка, указывающая, куда нужно дотянуться, животные перемещали стержень в это место. Лампочки были расположены по кругу, как цифры на циферблате часов, с радиусом, равным длине игральной карты. Обезьяны всегда возвращались в центр круга, прежде чем дойти до следующего места. Таким образом, при наличии восьми равномерно расположенных лампочек в круге животные совершали движения в восьми различных направлениях. Эта простая установка стала частью традиции изучения "дотягивания до центра" в моторной нейронауке (см. рис. 18).

Рисунок 18

В своем втором исследовании Георгопулос выбрал кинетическую теорию Эвартса и заменил ее своей собственной точкой зрения на то, что представляют собой нейроны в моторной коре.

Эвартс использовал щелчки запястьем, чтобы увидеть, что нейронная активность отражает силу, но некоторые ученые сочли эту связь противоречивой. В частности, во время более сложных движений количество силы, которую производит мышца, меняется по мере того, как меняются суставы и мышцы вокруг нее. Например, при движении плеча меняется физика локтя. Это делает цепочку влияния от нейронной активности до мышечной активности и силы менее интерпретируемой, а кинетическую теорию- менее жизнеспособной. Есть также признаки того, что многие нейроны вообще мало заботятся о силе.

Поэтому Георгопулос изменил точку зрения. Вместо того чтобы спрашивать, что нейроны говорят о мышцах, он спросил, что они говорят о движении. Более чем у трети нейронов в моторной коре он обнаружил очень четкую и простую связь между нейронной активностью и направлением движения руки. Точнее, у этих нейронов было предпочтительное направление. Это означает, что они начинают стрелять сильнее всего, когда животное тянется в этом направлении - скажем, в сторону трех часов, - и их скорость стрельбы падает по мере удаления от этого направления (меньше стрельбы в направлении двух и четырех часов, еще меньше в направлении одного и пяти часов и т. д.). Обнаружение такой "настройки направления" означало, что моторная кора больше заботится о кинематике, чем о кинетике. После "подергиваний против движений" кинетика против кинематики стала следующей большой дискуссией в моторной нейронауке.

Кинематика - это описательные характеристики движения, определяемые без учета сил, которые их порождают. Таким образом, кинематические переменные указывают на желаемый результат для руки, но не на инструкции по его созданию. Переход от модели, в которой моторная кора кодирует кинетику, к модели, в которой она кодирует кинематику, изменяет распределение труда в двигательной системе. Кинетическая переменная, такая как сила, отделяется от фактического уровня мышечной активности, необходимого для ее реализации, всего несколькими небольшими вычислениями - преобразованиями, которые потенциально выполняются нейронами в спинном мозге, - но поскольку кинематические значения определяют только то, где рука должна находиться в пространстве, они представляют собой более сложную задачу для остальной части двигательной системы. Таким образом, на участки, расположенные нижедвигательной коры бремя изменения системы координат: взять набор желаемых местоположений, внешних по отношению к телу, и превратить его в паттерны мышечной активности. Георгопулос стал непреклонным и неустанным защитником этого кинематического подхода к моторной коре на десятилетия вперед.

Последнее изменение, внесенное Георгопулосом, касалось того, как рассматривать данные. Если нейроны настроены на общее направление движения, это означает, что они не участвуют в индивидуальном контроле мышц. Зачем тогда рассматривать нейроны по одному? Вместо этого было бы разумнее рассмотреть, что говорят все нейроны - вся популяция.

Именно это и сделал Георгопулос. Используя имеющуюся у него информацию о настройке направления движения в отдельных клетках, он рассчитал "вектор популяции" - по сути, стрелку, указывающую на направление движения, которое кодирует нейронная популяция. Этот расчет работает, позволяя каждому нейрону голосовать за предпочтительное для него направление движения. Но это не идеальная демократия, потому что не все голоса взвешиваются одинаково. Вместо этого вес голоса нейрона зависит от того, насколько активен нейрон. Так, нейроны, работающие выше среднего уровня, могут сильно смещать вектор популяции в предпочтительном для них направлении. А нейроны, работающие ниже среднего уровня, будут смещать вектор в сторону от предпочтительного для них направления. Таким образом, нейроны коллективно указывают желаемое направление движения. И они делают это более точно, чем это может сделать отдельный нейрон. Георгопулос показал, что, суммируя таким образом вклад каждого нейрона, он может точно определить направление, в котором животное двигает рукой. Такой подход к данным на уровне популяции оказался весьма мощным - возможно, слишком мощным. После этой работы появилось несколько исследований, показывающих другую информацию, которую можно считать из моторной коры, если учитывать всю популяцию: движение пальцев, скорость движения руки, активность мышц, силу, положение и даже сенсорную информацию о визуальных сигналах, указывающих, куда и когда двигаться. Возможно, направление было одной из первоначальных переменных, декодированных таким образом, но далеко не единственной. Обнаружение кинетических и кинематических переменных (а также множества другой информации) в процессе деятельности стало ударом по теории Георгопулоса о том, что кинематика - это нечто особенное. По иронии судьбы, именно один из его собственных вкладов - фокус на популяции - подорвал его.

Вера в то, что информация, считанная из моторной коры, говорит нам о ее работе, еще больше снизилась благодаря использованию вычислительных подходов. Ученые, построившие модели двигательной системы, которые, по их замыслу, должны были работать на основе кодирования кинетических переменных, смогли показать, как из них можно считывать и кинематические переменные. Один из таких ученых - Эберхард Фетц - дошел до того, что сравнил поиск переменных репрезентаций в моторной коре с поведением гадалок: "Подобно чтению чайных листьев, этот подход может быть использован для создания впечатления, путем проецирования концептуальных схем на наводящие на размышления паттерны.

Эти результаты показали возможность, которая всегда таилась под поверхностью: не существует единственного значения, которое "кодируют" нейроны в моторной коре. Это не кинематика или кинетика; это и то, и другое, и третье, и третье. Во многих отношениях этот факт был заметен с самого начала. Его можно было увидеть в нейронах, которые не демонстрировали четких реакций на силу или направление, или в нейронах, которые показывали значительные изменения в своих реакциях при небольших изменениях в эксперименте, или просто в десятилетиях, когда исследователи находили доказательства в пользу то одной, то другой стороны снова и снова.

По некоторым оценкам, эта область сбилась с пути, потому что слепо следовала по пути, проложенному другими учеными: изучение сенсорных систем, которое так вдохновляло Георгопулоса, было плохой моделью для понимания движения. Споры о том, "что кодирует моторная кора?", остались неразрешенными не потому, что вопрос сложный, а потому, что он изначально был задан неправильно. Двигательной системе не нужно отслеживать параметры движения, ей нужно просто производить движения.

Как было показано в предыдущей главе, если ученые видят структуру в нейронной активности, это еще не значит, что мозг ее использует. Распространенная аналогия сравнивает моторную кору с двигателем автомобиля. Двигатель, безусловно, отвечает за движение автомобиля. И если измерить активность различных его частей - поршня, ремней двигателя и т. д. Это вполне вероятно, что некоторые из этих величин при определенных условиях довольно сильно коррелировали бы с силой, создаваемой автомобилем, или с направлением, в котором он поворачивает. Но можно ли сказать, что двигатель работает, "кодируя" эти переменные? Или это скорее условность, привнесенная в моторную кору учеными, которые сами понимают движение через концепции силы, механики и физики? Как написал в 2009 году нейробиолог Джон Каласка: "Суставной момент - это ньютоновский механический параметр, определяющий вращательную силу, необходимую для создания определенного движения в суставе... Маловероятно, что нейрон [моторной коры] знает, что такое Ньютон-метр или как рассчитать, сколько Ньютон-метров необходимо для создания определенного движения".

* * *

То, что вопрос "Что кодирует моторная кора?" был неправильным для понимания моторной коры, не означает, что ответ на него не имеет ценности. Действительно, попытка декодировать информацию из моторной коры может быть весьма полезной - но не для того, чтобы понять моторную систему, а для того, чтобы обойти ее вовсе.

Когда в небольшой комнате недалеко от Провиденса, штат Род-Айленд, 55-летняя женщина по имени Кэти Хатчинсон поднесла чашку с кофе ко рту и сделала глоток, она сделала это впервые за более чем 15 лет. Это также был первый случай, когда подобный подвиг совершил человек с тетраплегией. Хатчинсон стала парализованной от шеи вниз, когда ей было 39 лет, после инсульта, случившегося во время садовых работ в весенний день 1996 года. Согласно интервьюWired, она узнала о BrainGate - исследовательской группе при Университете Брауна, которая изучает возможности использования интерфейсов мозг-компьютер для восстановления подвижности пациентов - от друга, работавшего в больнице. Хатчинсон приняла участие в их клинических испытаниях.

В рамках своего исследования ученые из BrainGate имплантировали в мозг Кэти устройство - квадратный кусок металла размером меньше средней пуговицы рубашки, состоящий из 96 электродов, расположенных в области левой моторной коры головного мозга, контролирующей руки. Активность нейронов, регистрируемая с помощью этих электродов, по проводу выводится из ее головы и поступает в компьютерную систему. Эта машина соединяется с роботизированной рукой, установленной на подставке справа от Кэти. Сама рука выглядит инопланетно - пузатая, неуклюжая и блестящая, синяя, - но кисть на ее конце более узнаваема, с тонкими детализированными суставами матового серебристого цвета. Когда Кэти управляет ею, движения не отличаются плавностью. Рука замирает и движется назад, прежде чем в конце концов поднести кофе к ней. Но в конце концов она выполняет свою работу - и женщина, потерявшая способность двигать своими собственными конечностями, обрела способность двигать этой.

Даже этот простой и несовершенный контроль не пришел сразу. Чтобы машина научилась слушать моторную кору головного мозга Кэти, ее нужно было обучить. BrainGate добился этого, заставив Кэти представить, как она двигает рукой в разных направлениях. Затем паттерны нейронной активности можно соотнести с командами двигать рукой в разных направлениях. Таким образом, управление этим интерфейсом мозг-компьютер зависит от наличия настройки направления в моторной коре. Иными словами, если бы не было возможности считывать направление движения - и другие намерения, такие как схватить или отпустить - с популяции клеток моторной коры, интерфейсы мозг-компьютер не работали бы.

Эти устройства также зависят от множества тяжелых математических механизмов, которые работают за кулисами. В BrainGate используется алгоритм, который комбинирует данные о нейронной активности с информацией о направлении движения в прошлом. Кроме того, некоторые из тонких движений руки и запястья робота заранее запрограммированы в устройстве, так что пользователь может запустить полную, подробную двигательную последовательность, представив себе простую команду. Это практический выход из ситуации, когда сложно считать подробные двигательные команды из активности группы нейронов.

Такие кропотливые усилия по созданию моторных устройств, управляемых мозгом, хотя и дают некоторую надежду пациентам, подчеркивают, насколько мало мы понимаем роль моторной коры в здоровом движении.

* * *

Если декодирование более полезно для инженерии, чем понимание, то что мы можем использовать, чтобы разобраться с моторной корой?

Фокусировка на популяции остается популярной - и не без оснований. Нейроны моторной коры должны в какой-то степени работать вместе, чтобы генерировать движения; в конце концов, моторной коре человека отведены сотни миллионов нейронов для управления примерно 800 мышцами человеческого тела. Но это ставит ученых перед проблемой: как разобраться в активности сотен нейронов, которые обычно регистрируются в ходе эксперимента? В популяционно-векторном подходе, использованном Георгопулосом, были заложены убеждения о том, что делают нейроны: если нейроны кодируют направление, то направление и будет считываться. Но когда неврологи, изучающие двигательную активность, попытались перейти от вопроса о том, что кодирует моторная кора, к вопросу о том, чтоделает моторная кора, подходы, основанные на считывании конкретной информации, потеряли смысл. Им нужно было найти новый способ взглянуть на популяцию.

Фундаментальное различие между подходом к изучению моторной коры на основе одного нейрона и популяции заключается в размерности. В то время как пространство, в котором мы живем, трехмерно, многие системы, которые изучают ученые, имеют гораздо более высокую размерность. Например, активность популяции из 100 нейронов будет 100-мерной.

Как это абстрактное, высокоразмерное "нейронное пространство" соотносится с реальным, осязаемым, физическим пространством, может быть трудно понять. Но мы можем отталкиваться от наших интуитивных представлений о физическом пространстве, рассмотрев сначала популяцию, состоящую всего из трех нейронов. В частности, заменив метры или футы на количество спайков, испускаемых нейроном, можно описать активность этой популяции точно так же, как местоположение в пространстве. Например, при выполнении движения первый нейрон в популяции может выпустить пять шипиков, второй - пятнадцать, а третий - девять. Это дает координаты в нейронном пространстве, подобно тому как карта сокровищ описывает, сколько шагов нужно пройти вперед, потом направо, потом как глубоко копать. Иной паттерн нейронной активности будет указывать на другое место в нейронном пространстве. Изучая нейронную активность моторной коры при выполнении различных движений, ученые могут задать вопрос, соответствуют ли различные места в этом пространстве различным типам или компонентам движения.

Визуализация этой деятельности, однако, становится сложной для более широких слоев населения. Человеку, живущему в трехмерном мире , сложно мыслить шире. Как бы выглядело нейронное пространство, если бы к популяции добавился четвертый нейрон? А если бы нейронов было сто или тысяча? Здесь наши интуитивные представления рассыпаются. Компьютерный ученый Джеффри Хинтон предлагает лучший совет для решения этой проблемы: "Чтобы разобраться с гиперплоскостями в четырнадцатимерном пространстве, визуализируйте трехмерное пространство и очень громко скажите себе "четырнадцать"".

К счастью, существует другой способ решения проблемы слишком большого количества измерений: уменьшение размерности. Снижение размерности - это математическая техника, которая позволяет получить информацию в высокоразмерном пространстве и представить ее с помощью меньшего количества измерений. Она основана на предположении, что некоторые из этих исходных измерений являются избыточными - в данном случае это означает, что несколько нейронов говорят одно и то же. Если бы вы смогли выяснить, какие паттерны нейронной активности в 100-мерной популяции являются фундаментальными для этой популяции, а какие - просто переработанными комбинациями этих фундаментальных паттернов, вы могли бы объяснить эту нейронную популяцию с помощью меньшего количества измерений, чем 100.

Рассмотрим личность. Сколько существует измерений человеческой личности? В английском языке есть головокружительный список возможных описаний: покладистый, гибкий, самокритичный, добрый, прощающий, творческий, харизматичный, спокойный, умный, дисциплинированный, агрессивный, дотошный, серьезный, умный и так далее, и так далее, и так далее. Каждую из этих черт можно рассматривать как отдельное измерение, и каждый человек описывается местом в этом высокоразмерном пространстве личности в зависимости от того, какие баллы он набрал по ним. Но есть некоторые черты личности, которые, похоже, коррелируют между собой. "Умные" люди могут также часто считаться "быстро соображающими". Возможно, было бы правильнее рассматривать сообразительность и быстроту мышления как два показателя одной и той же базовой черты - возможно, мы назовем ее "интеллектом". Если это так, то два измерения, представляющие сообразительность и быстроту мышления в этом пространстве, можно заменить одним для интеллекта. Это уменьшит размерность. Если есть только случайные люди, которые умны, но не быстро соображают, или быстро соображают, но не умны, то это сокращение не принесет больших жертв. Для подавляющего большинства людей описание их по одному только интеллекту скажет нам все, что мы должны знать об этих аспектах их личности.

Действительно, большинство популярных тестов личности основаны на предпосылке, что всего несколько основных черт могут объяснить все человеческое разнообразие. Например, знаменитый тест Майерс-Бриггс утверждает, что личность имеет всего четыре оси: интуиция против чувствительности, чувства против мышления, интроверсия против экстраверсии и восприятие против суждения. Более научно обоснованный подход (известный как "Большая пятерка") определяет размерность личности по пяти осям: согласованность, невротизм, экстраверсия, добросовестность и открытость. Эти факторы называют "латентными", поскольку их можно рассматривать как основные базовые черты, которые порождают множество различных стилей личности, которые мы наблюдаем.

Исторически сложившаяся в нейронауке традиция рассматривать каждый нейрон как снежинку - уникальную и достойную индивидуального анализа - предполагает, что они в каком-то смысле являются базовой единицей мозга. То есть предполагается, что природа упаковала соответствующие измерения в аккуратную клеточную форму. Но точно так же, как наши народные представления о личности преувеличивают ее размерность, существует множество причин, по которым "истинная" размерность нейронной популяции, скорее всего, меньше, чем количество нейронов в ней. Например, избыточность - разумное свойство, которое должно присутствовать в любой биологической системе. Нейроны шумят и могут погибнуть, поэтому система с избыточными нейронами более надежна. Кроме того, нейроны, как правило, сильно взаимосвязаны. Вряд ли какой-либо из них может оставаться независимым, поскольку все они переговариваются друг с другом. Вместо этого их активность становится коррелированной, подобно тому, как сближаются мнения людей, принадлежащих к одному социальному кругу. По этим причинам нейронные популяции как нельзя лучше подходят для применения методов снижения размерности, которые помогут выявить скрытые факторы, действительно движущие ими.

Популярным методом снижения размерности нейронных данных является анализ главных компонент, или PCA (см. рис. 19). PCA был изобретен в 1930-х годах и широко использовался психологами для анализа психических свойств и способностей. Благодаря своей полезности для осмысления больших наборов данных он теперь применяется для всех видов данных во многих областях.

PCA работает за счет фокусировки на дисперсии. Дисперсия означает, насколько разбросаны различные точки данных. Например, если в течение трех ночей человек спит 8 часов, 8 часов и 5 минут и 7 часов и 55 минут, то он относится к категории людей с низкой дисперсией. Человек с высокой дисперсией сна тоже может спать в среднем 8 часов, но распределять их по трем ночам будет совсем по-другому - скажем, 6 часов, 10 часов и 8 часов.

Показатели с высокой дисперсией важны, потому что они могут быть весьма информативны. Например, легче определить эмоциональное состояние человека, который иногда молчит, а иногда кричит, чем стоика, у которого всегда одно и то же прямое лицо. Точно так же легче классифицировать людей по чертам, которые сильно различаются между собой, а не по тем, которые у всех общие. Признавая важность дисперсии, цель PCA - найти новые измерения, которые являются комбинацией исходных измерений, подобно тому как интеллект может быть комбинацией сообразительности и быстроты мышления, и которые отражают как можно большую дисперсию в данных. Это означает, что, зная, куда попадает точка данных в соответствии с этими новыми измерениями, мы сможем многое о ней узнать, даже если их будет меньше.

Например, рассмотрим популяцию из двух нейронов, активность которых мы хотели бы описать одним числом. Допустим, мы регистрировали активность этих двух нейронов во время различных движений, поэтому для каждого движения у нас есть пара чисел, представляющих количество спайков от каждого из них. Если мы построим график этих пар, используя ось x для одного нейрона и ось y для другого, мы увидим, что данные падают более или менее вдоль линии. Эта линия и будет нашим новым измерением. Теперь, вместо того чтобы описывать активность во время каждого движения как пару чисел, мы можем описать ее как одно число, которое относится к тому, где она падает на этой линии.

Рисунок 19

Уменьшая размерность таким образом, мы теряем часть информации. Мы не знаем, например, как далеко активность находится от этой линии, если мы только описываем, где она падает на нее - но смысл в том, чтобы выбрать линию, которая захватывает наибольшую дисперсию и, таким образом,теряет наименьшую информацию.

Если данные не ложатся вдоль линии - то есть активность двух нейронов совсем не похожа, - то это не очень хорошо работает. В этом случае мы бы сказали, что эта двумерная нейронная популяция действительно использует все свои два измерения и поэтому не может быть уменьшена. Но, как уже говорилось ранее, существует множество причин, по которым в среднем некоторая нейронная активность является избыточной и поэтому сокращение размерности возможно.

Редукция размерности успешно применяется ко всем видам нейронных данных на протяжении многих лет. Сам метод PCA был применен еще в 1978 году, когда с его помощью было показано, что активность восьми нейронов, отвечающих за кодирование положения колена, может быть хорошо представлена всего одним или двумя измерениями. А в последнее десятилетие использование PCA в исследованиях моторной коры только расширяется. Это связано с тем, что снижение размерности помогает ученым-мотористам увидеть то, что иначе было бы скрыто. Если свести подъемы и спады активности более сотни нейронов в одну линию, то их закономерности станут видны невооруженным глазом. Взгляд на эволюцию активности популяции как на форму, прорисованную в трех измерениях, позволяет ученым использовать свои интуитивные представления о пространстве , чтобы понять, что делают нейроны. Таким образом, наблюдение за этими траекториями может зародить новые истории о том, как работает двигательная система.

Например, в начале 2010-х годов в лаборатории Кришны Шеноя в Стэнфордском университете изучали, как моторная кора готовится к движениям. Для этого обезьян обучали выполнять стандартные движения руками, но вводили задержку между моментом, когда давалось указание на движение, и моментом, когда животное должно было начать движение. Это позволило записывать данные из моторной коры, пока она готовилась к движению.

Долгое время считалось, что при подготовке к движениям нейроны моторной коры головного мозга будут работать по схеме, аналогичной той, что они работают во время движения, только с меньшей общей частотой. То есть, по сути, они говорят то же самое, но тише. В пространстве нейронной активности это означало бы, что подготовительная активность идет в том же направлении, что и двигательная активность, но просто не так далеко. Однако, построив низкоразмерную версию нейронной активности, когда животное планировало, а затем выполняло движение, исследователи обнаружили, что это не так. Активность перед движением не была просто сдержанной версией активности во время движения; напротив, она занимала совершенно другую область пространства активности.

Этот вывод, хотя и удивительный, согласуется с более современным взглядом на моторную кору. Этот новый взгляд делает акцент на том, что моторная кора является динамической системой - нейроны в ней взаимодействуют таким образом, что способны создавать сложные паттерны активности с течением времени. Благодаря этим взаимодействиям между нейронами моторная кора способна принимать короткие, простые сигналы и производить ответ сложные и длинные сигналы. Это означает, что другая область мозга может решить, где должна быть рука, послать эту информацию в моторную кору, а моторная кора выработает полную траекторию нейронной активности, необходимую для того, чтобы рука оказалась там.

В этой системе подготовительная активность представляет собой "начальное состояние" этой динамической системы. Начальные состояния определяют местоположение в пространстве активности, с которого начинается популяция, но именно связи между нейронами определяют, куда она движется. Таким образом, начальные состояния немного напоминают входы на различные водные горки на вершине платформы: местоположение входа может иметь мало общего с ходом горки или тем, где она заканчивается. Поэтому нет причин, по которым подготовительная активность должна быть похожа на активность во время движения. Важно лишь, чтобы моторная кора достигла нужного начального состояния, а остальное сделают связи между ее собственными нейронами.

Такой взгляд на "динамические системы" может объяснить, почему попытки понять работу моторной коры были настолько запутанными. Если рассматривать эти нейроны как часть большого механизма, где одни части направляют движения мышц в данный момент, а другие планируют следующий шаг, то разнообразие и изменчивость их реакций становятся более ожидаемыми. Этот новый подход, как ни парадоксально, возвращает область к ее истокам. Модель, в которой простой вход может привести к сложному выходу, хорошо согласуется с выводами Феррье о том, что стимуляция приводит к расширенным натуралистичным движениям.И в начале 2000-х годов Феррьер действительно получил подтверждение, когда профессор Принстона Майкл Грациано показал - с помощью современных методов стимуляции - что полусекундная стимуляция моторной коры вызывает сложные и скоординированные естественные движения, такие как поднесение руки ко рту или изменение выражения лица

* * *

Ученые нередко признаются в том, чего они не знают. В конце концов, наука существует только в пробелах между знаниями, поэтому выявление и признание этих пробелов - важная часть процесса. Но исследователи двигательной системы кажутся особенно экстремальными в своих декларациях о невежестве. Они заполняют абзацы разговорами о "значительных дебатах" в своей области и о том, что "существует удивительно мало согласия относительно даже основных свойств реакции моторной коры". Они также быстро признают, что "глубокое понимание функции моторной коры все еще ускользает от нас" и что "остается открытым вопрос о том, как нейронные ответы в моторной коре связаны с движением". А в минуты отчаяния они даже спрашивают: "Почему на этот, казалось бы, простой вопрос так трудно ответить?

Несмотря на то, что эти слова выдержаны в сухом отстраненном академическом стиле, они свидетельствуют о честном признании прискорбной истины: несмотря на то, что моторная кора является одной из самых ранних областей коры головного мозга и одной из первых, где была зарегистрирована активность отдельных нейронов во время поведения, она по-прежнему остается глубоко и упрямо загадочной. Как мы видели, это, конечно, не из-за отсутствия попыток: героическая работа и энергичные дебаты были отмечены в истории этой области - и, конечно, было сделано много шагов вперед. Тем не менее, лишь немногие из основных противоречий были полностью разрешены - за исключением, предположительно, вопроса о том, существует ли моторная кора и что она вообще что-то делает.

Глава 9. От структуры к функции.

Теория графов и сетевая нейронаука

В 1931 году, за три года до своей смерти, Сантьяго Рамон-и-Кахаль передал Институту Кахаля в Мадриде коллекцию своих личных вещей. В коллекции были всевозможные научные безделушки: весы, слайды, фотоаппараты, письма, книги, микроскопы, растворы, реактивы. Но самыми примечательными предметами - теми, которые станут почти синонимом имени Кахаля, - были 1907 научных рисунков, которые он создал за свою карьеру.

Большинство этих рисунков представляли собой различные части нервной системы и были получены в результате трудоемкого процесса окрашивания клеток. Для этого использовалось живое животное, которое приносилось в жертву, а его ткани консервировались. Затем кусок мозга извлекался и замачивался в растворе на два дня, высушивался и замачивался в другом растворе - содержащем серебро, которое проникало в клеточные структуры, - еще на два дня. После этого ткань мозга промывали, снова высушивали и разрезали на кусочки, достаточно тонкие, чтобы поместиться на предметном стекле микроскопа. Кахаль рассматривал эти срезы в окуляр микроскопа и зарисовывал то, что видел. Начиная с карандаша, он очерчивал на куске картона каждый уголок формы нейрона, включая толстые тела клеток и тонкие придатки, выходящие из них. Затем он затемнил клетки индийскими чернилами, иногда используя акварель, чтобы добавить текстуру и размерность. В результате получился набор призрачных силуэтов черных паукообразных на бежевом и желтом фоне.1 Точные контуры и конфигурации зависели от животного и нервных волокон, о которых идет речь; на картонных холстах Кахаля изображены более 50 видов и почти 20 различных частей нервной системы.

Эти сотни портретов отражают увлеченность Кахаля строением нервной системы. Он искал просветления в основной единице мозга - нейроне. Он зациклился на том, как они сформированы и как устроены. Сосредоточение на физических основах было для Кахаля путем к пониманию того, как работает мозг. Он считал, что функция может быть найдена в структуре.

И он оказался прав. Кахаль смог установить важные факты о работе мозга, долго и тщательно изучая его строение. Одно из его важных открытий касалось того, как сигналы проходят по нейронам. Наблюдая за различными нейронами в разных органах чувств, Кахаль заметил, что клетки всегда расположены определенным образом. Многочисленные разветвленные дендриты клетки были направлены в ту сторону, откуда поступал сигнал. Длинный одиночный аксон, напротив, направлялся к мозгу. В обонятельной системе, например, нейроны с химическими рецепторами, способными улавливать молекулы запаха, находятся в слизистой оболочке внутри носа. Эти нейроны посылают свои аксоны в мозг и контактируют с дендритами клеток в обонятельной луковице. От этих нейронов отходят аксоны в другие части мозга.

Эта закономерность, которую Кахаль наблюдал снова и снова, наводила на мысль, что сигналы идут от дендритов к аксонам. Дендриты, заключил он, действуют как приемник сигналов для клетки, а аксоны - как отправитель сигналов для следующей клетки. Кахаль был настолько ясен в этом вопросе, что добавлял маленькие стрелки к своим рисункам схем, таких как обонятельная система, указывая предполагаемое направление потока информации. Кахаль, как мы теперь знаем, был абсолютно прав.

Кахаль был одним из отцов-основателей современной нейронауки. Его вера в связь между структурой и функцией вошла в ДНК этой области. Отголоски этой идеи встречаются во всей истории нейронауки. В статье 1989 года Питер Гетинг пишет, что исследователи 1960-х годов даже на основе своих ограниченных данных могли видеть, что "способности сети возникли из соединения простых элементов в сложные сети, таким образом, из связности возникла функция". К исследованиям 1970-х годов, продолжает он, "подходили с несколькими ожиданиями: во-первых, знание о связности объяснит, как работают нейронные сети". Такое отношение сохраняется. Обзор, написанный в 2016 году профессорами Сяо-Цзин Вангом и Генри Кеннеди, заканчивается следующим утверждением: "Установление прочной связи между структурой и функцией необходимо для понимания сложной нейронной динамики".

В мозге структура существует в разных масштабах. Неврологи могут посмотреть, как нейроны соединены между собой: связан ли нейрон A с нейроном B? Можно еще больше увеличить масштаб и спросить, как взаимодействуют небольшие популяции нейронов. Или можно изучить схемы связей в масштабах всего мозга, рассматривая толстые пучки аксонов, соединяющие отдаленные области мозга. Любая из этих структур более высокого уровня может хранить секреты о функциях.

Но чтобы раскрыть эти секреты, нейробиологам нужен способ четко видеть и изучать эти структуры. То, что можно было бы счесть ограничением метода окрашивания, использованного Кахалем, - то, что он окрашивал лишь небольшое количество нейронов за раз, - на самом деле оказалось преимуществом, которое сделало его революционным. Метод, при котором окрашивались бы все нейроны в поле зрения, привел бы к черному беспорядку без видимых структур; в этом случае деревья не были бы видны. Поскольку нейробиологи перешли от изучения структуры отдельных нейронов к более сложному изучению связей, сетей и схем, они могут подвергаться еще большему риску перегруженности данными и отвлечения на неверные детали.

Однако столь необходимый метод был найден в особой области математики - теории графов. Язык теории графов предлагает способ говорить о нейронных сетях, который избавляет от многих деталей. В то же время ее инструменты находят особенности нейронной структуры, которые практически невозможно увидеть без нее. Эти особенности структуры, как считают некоторые ученые, могут натолкнуть их на новые мысли о функциях нервной системы. Поглощенные перспективами методов теории графов, неврологи в настоящее время применяют их ко всему- от развития мозга до болезней. Хотя пыль еще не осела от этого нового подхода к мозгу, его свежий взгляд на старые проблемы волнует многих.

* * *

В столице Восточной Пруссии XVIII века Кенигсберге река, проходя через город, разветвлялась на две части, образуя посередине небольшой остров. Остров соединялся с частями города к северу, югу и востоку от него семью мостами. В какой-то момент у жителей Кенигсберга возник вопрос: существует ли способ передвижения по городу, при котором каждый из мостов пересекается один и только один раз? Когда этот игривый вопрос встретился со знаменитым математиком Леонгардом Эйлером, родилась теория графов.

Эйлер, эрудит, родившийся в Швейцарии, но живший в России, в 1736 году написал работу "Решение задачи о геометрии положения" (Solutio problematis ad geometriam situs pertinentis). В этой работе он дал однозначный ответ на вопрос: кёнигсбержец не может совершить прогулку по своему городу, проходя через каждый мост ровно один раз. Чтобы доказать это, ему пришлось упростить карту города до скелета ее полной структуры и работать с ней логически. Он показал, не используя слово, как превратить данные в граф и как выполнять на нем вычисления (см. рис. 20).

В контексте теории графов слово "граф" не означает график или диаграмму, как это принято в обычном языке. Скорее, граф - это математический объект, состоящий из узлов и ребер (в современном понимании).Узлы - это базовые единицы графа, а ребра представляют связи между ними. В примере с Кенигсбергом мосты служат ребрами, соединяющими четыре различных массива суши - узлы. Степень узла - это количество ребер, которые он имеет; таким образом, "степень" массива суши - это количество мостов, которые к нему подходят.

Рисунок 20

Эйлер подошел к вопросу о мостовых переходах, заметив, что путь через город можно записать в виде списка узлов. Если дать каждому массиву земли буквенное имя, то список "ABDC", например, будет представлять собой путь, который идет от острова в центре к земле внизу (через любой мост, соединяющий их), затем от него к массиву земли справа и далее к земле вверху. При таком пути через граф между каждой парой узлов проходит одно ребро. Таким образом, количество пересеченных мостов равно количеству букв в списке минус одна. Например, если вы пересекли два моста, то в вашем списке будет три земельных массива.

Затем Эйлер заметил нечто важное в количестве мостов, которые есть у каждого массива суши. Это число связано с тем, сколько раз этот массив должен появиться в списке путей. Например, у массива земли B есть три моста, а значит, "B" должен дважды появиться в любом пути, который пересекает каждый мост по одному разу - то есть нет способа пересечь эти три моста, не посетив B дважды. То же самое верно и для массивов C и D, поскольку у них тоже по два моста. А вот массив A с пятью мостами должен появиться в списке путей три раза.

Вместе взятые, любой путь, удовлетворяющий этим требованиям, будет состоять из девяти (2+2+2+3) букв. Однако список из девяти букв представляет собой путь, пересекающий восемь мостов. Поэтому невозможно построить путь, который пересекает каждый из семи мостов только один раз.

Используя эту зависимость между степенью узла и количеством раз, которое этот узел должен встретиться на пути, Эйлер вывел ряд общих правил о том, какие пути возможны. Теперь он мог сказать для любого набора мостов, соединяющих любые участки земли, существует ли путь, пересекающий каждый мост только один раз.

Более того, неважно, говорим ли мы вообще о земле и мостах. Та же процедура может быть использована для поиска путей для городского снегоуборщика, который должен очистить каждую улицу только один раз, или для того, чтобы узнать, можно ли обойти Википедию, нажимая на каждую гиперссылку между сайтами только один раз. Эта податливость - часть того, что придает теории графов ее силу. Отбрасывая детали любой конкретной ситуации, она находит структуру, которая похожа на все остальные. Этот абстрактный и чуждый способ взглянуть на проблему может открыть ее для новых и инновационных решений, подобно тому как Эйлеру помогло рассмотрение прогулки по городу как списка писем.

Учитывая эту особенность, теория графов нашла применение во многих областях. Химики XIX века бились над, как изобразить структуру молекул. К 1860-м годам была разработана система, которая используется и по сей день: атомы рисуются в виде букв, а связи между ними - в виде линий. В 1877 году английский математик Джеймс Джозеф Сильвестр увидел в этом графическом представлении молекул параллель с работой потомков Эйлера в математике. Он опубликовал работу, в которой проводил аналогию, и впервые использовал слово "граф" для обозначения этой формы. С тех пор теория графов помогла решить множество проблем в химии. Одно из самых распространенных ее применений - поиск изомеров - наборов молекул, которые состоят из одного и того же типа и количества атомов, но отличаются друг от друга тем, как эти атомы расположены. Поскольку теория графов предоставляет формальный язык для описания структуры атомов в молекуле, она также хорошо подходит для перечисления всех структур, которые возможны при определенном наборе атомов. Алгоритмы, которые это делают, могут помочь в разработке лекарств и других нужных соединений.

Подобно химическим соединениям, структура мозга хорошо поддается отображению в виде графа. В самом базовом варианте нейроны - это узлы, а связи между ними - ребра. В качестве альтернативы узлами могут быть области мозга, а нервные пути, которые их соединяют, - ребрами. Независимо от того, работаете ли вы с микромасштабом нейронов или макромасштабом областей мозга, если рассматривать мозг в терминах теории графов, он становится доступным для всех инструментов анализа, разработанных в этой области. Это способ формализовать неформальный поиск, которым всегда руководствовалась нейронаука. Чтобы говорить о том, как структура рождает функцию, сначала нужно уметь четко говорить о структуре. Теория графов предоставляет такой язык.

Конечно, есть разница между мозгом и прусским городом или химическим соединением. Связи в мозге не всегда являются двусторонними, как на мосту или в связке. Один нейрон может подключиться к другому, не получая ответной связи. Эта однонаправленность нейронных связей важна для того, как информация проходит по нейронным цепям. Самые простые структуры графов не отражают этого, но к концу 1800-х годов в арсенале математических описателей появилось понятие направленных графов. В направленном графе ребра - это стрелки, которые идут только в одну сторону. Таким образом, степень узла в направленном графе делится на две категории: степень вхождения (например, сколько связей получает нейрон) и степень выхода (сколько связей он посылает другим нейронам). Исследование, проведенное на нейронах в коре головного мозга обезьян, показало, что эти два типа степени примерно равны, то есть нейроны отдают столько же, сколько и получают.

В 2018 году математики Кэтрин Моррисон и Карина Курто построили модель нейронной цепи с направленными ребрами, чтобы ответить на вопрос, не слишком похожий на проблему Кёнигсбергского моста. Вместо того чтобы определять, какие прогулки по городу может поддерживать определенный набор мостов, они исследовали, какую последовательность нейронных импульсов может произвести данная схема. Привлекая инструменты из теории графов, Моррисон и Курто выяснили, как рассмотреть структуру из пяти нейронов-моделей и предсказать порядок их срабатывания. Упорядоченный порядок срабатывания нейронов важен для многих функций мозга, включая память и навигацию. Модель из пяти нейронов может быть лишь игрушечным примером, но она прекрасно отражает возможности, которые обещает привнести теория графов в изучение мозга

Однако для реальных мозговых сетей необходимо использовать более "глобальную" перспективу.

* * *

В течение нескольких месяцев в конце 1960-х годов биржевой маклер, живший в Шароне, штат Массачусетс, получил от владельца местного магазина одежды 16 коричневых папок. Как ни странно, папки не стали для биржевого маклера сюрпризом. Просто они были частью неортодоксального социального эксперимента, который проводил известный социальный психолог Стэнли Милгрэм. С помощью этого эксперимента Милгрэм хотел проверить, насколько велик - или мал - мир на самом деле.

Фразу "Мир тесен" обычно произносят, когда встречаются два незнакомых человека и по счастливой случайности обнаруживают, что у них есть общий друг или родственник. Милграм хотел узнать, как часто может происходить подобное: какова вероятность того, что у двух случайно выбранных людей есть общий друг? Или друг друга? Если бы мы могли увидеть всю сеть человеческих связей - граф, где каждый узел - это человек, а каждое ребро - отношения, - каким было бы среднее расстояние между людьми? Сколько ребер нужно пройти, чтобы найти путь между любыми двумя узлами?

В смелой попытке ответить на этот вопрос Милгрэм выбрал целевого человека (в данном случае биржевого маклера из Массачусетса) и несколько стартеров: не связанных между собой людей в другой части страны (в данном случае в основном в Омахе, Небраска). Стартерам вручили пакет с папкой и информацией о целевом человеке. Инструкции были просты: если вы знакомы с объектом, отдайте папку ему; в противном случае отправьте ее своему другу, который, по вашему мнению, имеет больше шансов узнать его. Следующий человек должен был следовать тем же инструкциям, и, надеюсь, в конце концов папка оказывалась у цели. Отправителей также просили вписать свое имя в журнал, который отправлялся вместе с посылкой, чтобы Милгрэм мог проследить путь, пройденный папкой.

Изучив 44 папки, которые попали к биржевому маклеру, Милгрэм обнаружил, что самый короткий путь состоял всего из двух промежуточных людей, а самый длинный - из 10. Медиана составила всего пять человек. Прохождение папки через пять человек между стартером и целью включало в себя шесть передач, и таким образом понятие "шести степеней разделения", уже выдвинутое наблюдательными учеными и социологами, было закреплено2.

Эта концепция просочилась в народное воображение. Однажды в конце 1990-х годов отец спросил аспиранта Дункана Уоттса, понимает ли он, что от президента его отделяет всего шесть рукопожатий. Уоттс, работавший в то время у математика Стивена Строгатца, высказал эту идею, когда они обсуждали, как могут общаться группы сверчков. После этого случайного разговора "маленький мир" превратился из причудливого выражения в математически определенное свойство сети.

В 1998 году Уоттс и Строгац опубликовали работу, в которой изложили, что нужно для того, чтобы граф функционировал как маленький мир. Ключевым компонентом было понятие короткой средней длины пути - идея о том, что любые две вершины разделяет всего несколько шагов. Один из способов получить короткую длину пути - сделать граф сильно взаимосвязанным, то есть таким, в котором каждый узел напрямую соединяется со многими другими. Однако этот трюк явно противоречит тому, что мы знаем о социальных сетях: по данным Милгрэма, у среднего жителя Америки - страны с населением около 200 миллионов человек в то время - было всего около 500 знакомых.

Поэтому Уоттс и Строгац ограничили моделирование сетей редкими связями, но при этом варьировали, как именно выглядят эти связи. Они заметили, что в сети с высокой степенью кластеризации можно иметь малую длину пути. Под кластером понимается подмножество узлов, которые сильно связаны между собой, как члены одной семьи. В таких сетях большинство узлов образуют ребра только с другими узлами в своем кластере, но иногда соединение отправляется на узел в удаленном кластере. Подобно тому, как поезд между двумя городами облегчает взаимодействие между их жителями, эти связи между различными кластерами в сети поддерживают низкую среднюю длину пути.

Выявив эти характеристики в своих моделях, Уоттс и Строгац отправились искать их в реальных данных - и нашли. Система электросетей Соединенных Штатов, превращенная в граф путем рассмотрения любого генератора или подстанции как узла, а линий электропередач как ребер, имеет низкую длину пути и высокую кластеризацию сети малого мира. Граф из актеров с ребрами между любыми парами, которые вместе снимались в кино, - то же самое. И последнее место, где они искали и нашли сеть малого мира, - это мозг.

Если говорить более конкретно, то структура, которую анализировали Уоттс и Строгац, представляла собой нервную систему крошечного круглого червя Caenorhabditis elegans. Игнорируя направленность нейронных связей, Уоттс и Строгац рассматривали любое соединение как ребро, а каждый из 282 нейронов в электрической схеме червя - как узел. Они обнаружили, что любые два нейрона могут быть соединены путем, между которыми в среднем находится всего 2,65 нейрона, и что сеть содержит гораздо больше кластеров, чем можно было бы ожидать, если бы эти 282 нейрона были соединены случайным образом.

Почему нервная система нематоды должна иметь ту же форму, что и социальная сеть человека? Самой главной причиной могут быть энергетические затраты. Нейроны голодны. Им требуется много энергии, чтобы оставаться в рабочем состоянии, и добавление новых или более длинных аксонов и дендритов только увеличивает счет. Таким образом, полностью взаимосвязанный мозг - это непомерно дорогой мозг. Если же связи становятся слишком редкими, то нарушается сама функция мозга - обработка и маршрутизация информации. Необходимо найти баланс между стоимостью проводов и пользой от обмена информацией. Маленькие миры именно так и поступают. В маленьком мире чаще всего встречаются относительно дешевые связи между клетками в локальном кластере. Дорогие связи между отдаленными нейронами встречаются редко, но их достаточно, чтобы поддерживать обмен информацией. Эволюция, похоже, сочла малый мир разумным решением.

Находка Уоттса и Строгатца, сделанная на круглом черве, впервые позволила описать нервную систему на языке теории графов. Изложение в этих терминах сделало очевидными некоторые ограничения, которые разделяет мозг и другие естественно возникающие сети. Связи могут быть дорогими для поддержания, будь то знакомства или аксоны, и если между круглым червем и социальными сетями есть сходство, то разумно ожидать, что структура других нервных систем также продиктована им.

Но чтобы говорить о строении нервной системы, необходимо знать что-то о строении нервной системы. Как оказалось, сбор этой информации - в лучшем случае неприятность, а в худшем - беспрецедентное техническое препятствие.

* * *

Коннектом" - это граф, описывающий связи в мозге. Хотя Уоттс и Строгац работали с неполной версией, полный коннектома круглого червя определяется полным набором из 302 нейронов червя и 7 286 связей между ними. Круглый червь стал первым животным, у которого был задокументирован полный коннектома взрослого организма, и на данный момент он является единственным.

Недостаток коннектомных данных во многом объясняется изнурительным процессом их сбора. Для составления полной карты коннектома на уровне нейронов необходимо поместить мозг в консервант, разрезать его на листы тоньше пряди волос, сфотографировать каждый из этих листов с помощью микроскопа и ввести эти фотографии в компьютер, который воссоздаст их в виде 3D-стека. Затем ученые проводят десятки тысяч часов, разглядывая эти фотографии, прослеживая отдельные нейроны по изображениями отмечая, где они соприкасаются друг с другом. Процесс обнаружения тонкой структуры нейронных связей таким образом так же кропотлив, как и палеонтологические раскопки. Цена всех этих нарезок, сшиваний и прослеживания делает маловероятным, что полные коннектомы будут доступны для всех видов, кроме самых маленьких. В настоящее время группа ученых собирает коннектомы плодовой мушки - животного с мозгом, размер которого в миллион раз меньше человеческого, - и в процессе собирается миллионы гигабайт данных. И хотя любые два круглых червя более или менее похожи друг на друга, у более сложных видов, как правило, больше индивидуальных различий, что делает коннектомы только одной мухи или млекопитающего всего лишь жеребьевкой из множества возможных коннектомов.

К счастью, существуют более косвенные методы, позволяющие составить приблизительную картину коннектомов у многих особей и видов. Один из подходов предполагает запись с нейрона при одновременной электрической стимуляции других нейронов вокруг него. Если стимуляция одного из близлежащих нейронов достоверно вызывает всплеск в регистрируемом нейроне, то между ними, скорее всего, есть связь. Другой вариант - трасеры: химические вещества, действующие подобно красителям, которые окрашивают нейрон. Чтобы понять, откуда поступают входы или куда идут выходы, достаточно посмотреть, где появляется краситель. Ни один из этих методов не может создать полный коннектома, но они позволяют получить представление о связности в определенной области.

Несмотря на то, что изучение связей проводилось задолго до этого, слово "коннектома" появилось лишь в 2005 году. В своей провидческой статье психолог Олаф Спорнс и его коллеги призвали коллег-ученых помочь в создании коннектома человеческого мозга, пообещав, что это "значительно расширит наше понимание того, как функциональные состояния мозга возникают из лежащего в их основе структурного субстрата". Получение данных о связях у человека - сложнейшая задача, поскольку многие инвазивные методы, используемые на животных, по понятным причинам недопустимы. Однако причуда биологии мозга позволяет найти разумную альтернативу.

Когда мозг устанавливает связи, защита груза имеет ключевое значение. Подобно воде, вытекающей из прохудившегося шланга, электрический сигнал, передаваемый аксоном, рискует исчезнуть. Для коротких аксонов, соединяющих соседние клетки, это не представляет особой проблемы, но аксоны, передающие сигналы из одной области мозга в другую, нуждаются в защите. Поэтому аксоны, идущие на большие расстояния, заворачивают в слои воскового одеяла. Это восковое вещество, называемое миелином, содержит много молекул воды. Магнитно-резонансная томография (та же технология, которая используется для получения снимков опухолей, аневризм и травм головы) позволяет обнаружить движение этих молекул воды - информация, которая используется для реконструкции путей аксонов в мозге. Благодаря этому можно увидеть, какие области мозга связаны друг с другом. После публикации статьи Спорнса был запущен проект Human Connectome Project, целью которого является составление карты мозга с помощью этой техники.

Выявление дальних аксонов таким способом не дает такого коннектома, как методы отслеживания одиночных клеток. Для этого ученым необходимо разбить мозг на грубые и, возможно, произвольные области, поэтому такое описание связности гораздо грубее. Кроме того, измерение молекул воды - не самый лучший способ выявить аксоны между этими областями, что может привести к ошибкам или двусмысленности. Даже Дэвид Ван Эссен, один из ключевых ученых проекта Human Connectome Project, в 2016 году предупредил сообщество нейробиологов о том, что у этого подхода есть серьезные технические ограничения, которые не стоит недооценивать. С другой стороны, это один из единственных способов, с помощью которого мы можем заглянуть в живой человеческий мозг, поэтому стремление продвигать его вполне логично. Как писал ван Эссен: "Будьте оптимистами, но критикуйте наполовину полные и наполовину пустые стаканы".

Несмотря на эти ограничения, нейробиологов начала 2000-х годов вдохновила работа Уоттса и Строгатца, заставившая их взглянуть на свою область через призму теории графов, и они с нетерпением устремили свои взоры на все доступные данные коннектома. Проанализировав их, они увидели маленькие миры во всех направлениях. Например, ретикулярная формация - древняя часть мозга, отвечающая за многие аспекты телесного контроля. Когда в 2006 году была составлена и проанализирована карта этой области на клеточном уровне у кошек, она стала первой нейронной цепью позвоночных, которую подвергли теоретико-графовой обработке. И оказалось, что это маленький мир. В исследованиях связей между областями мозга у крыс и обезьян также всегда обнаруживались короткие пути и множество кластеров. Люди окончательно вошли в клуб маленьких миров в 2007 году, когда исследователи из Швейцарии с помощью магнитно-резонансной томографии разделили мозг на тысячу различных областей - каждая высотой и шириной с лесной орех - и измерили связи между ними.

Универсальные выводы - редкое явление в нейронауке; не обязательно, что принципы, действующие на одном наборе нейронов, проявятся и на другом. Таким образом, вывод, который повторяется у разных видов и в разных масштабах, является удивительным. Как припев песни сирены, он также призывает к дальнейшим исследованиям. То, что малые миры встречаются в стольких местах, заставляет задуматься о том, как они туда попали и какую роль могут играть. Хотя ответы на эти вопросы все еще ищутся, без языка теории графов они не могли бы быть заданы с самого начала.

* * *

10 февраля 2010 года было отменено около 23 процентов всех рейсов, отправлявшихся из Соединенных Штатов. Этот исторически значительный сбой стал результатом снежной бури на северо-востоке страны, которая закрыла несколько аэропортов, включая Рональда Рейгана в Вашингтоне и Кеннеди в Нью-Йорке. Обычно закрытие нескольких аэропортов не приводит к такому значительному снижению уровня путешествий, но это были не просто аэропорты, а узловые центры авиационной сети.

Узлы - это узлы в графе, которые имеют высокую степень, то есть они сильно связаны между собой. Они находятся в хвостах распределения степеней: график, показывающий для каждого значения степени, сколько узлов в сети имеют эту степень (см. Рисунок 21).Для таких графиков, как авиационная сеть или структура серверов, составляющих интернет, этот график начинается с высокого уровня - это означает, что существует множество узлов, имеющих лишь небольшое количество соединений, - и затухает по мере увеличения количества соединений, приводя к длинному, низкому хвосту, который представляет собой небольшое количество узлов с очень высокой степенью, таких как аэропорт Кеннеди. Высокая степень узлов делает их мощными, но также и потенциально уязвимыми. Подобно удалению ключевого камня из каменной арки, целенаправленная атака на один из узлов может привести к разрушению сети.

Рисунок 21

В мозге есть центры. У человека они разбросаны по всем долям. Например, поясная кора, которая изгибается вокруг центра мозга, служит центром; также как и прекунеус, который находится на задней части поясной коры. В исследованиях сна, анестезии и людей в коме активность в этих областях коррелирует с сознанием. Размер другого узла - верхней лобной коры - коррелирует с импульсивностью и вниманием. Поражение четвертого узла, расположенного в теменной коре на боковой стороне мозга, приводит к тому, что пациенты теряют чувство направления. В целом, популяция узлов представляется разнообразной как по расположению, так и по функциям. Связующей нитью между ними, если таковая имеется, является то, насколько сложным является каждый из них. Такие области мозга, как зрительная кора, слуховая кора и обонятельная луковица, - области с четкими и идентифицируемыми функциями, представленными прямо в их названиях, - не попали в список хабов. Узловые области сложны; они получают информацию из множества источников и распространяют ее так же далеко. Их роль интеграторов является очевидным результатом их расположения в архитектуре сети.

Концентраторы, помимо того что интегрируют информацию особым образом, могут также отвечать за установку часов в мозге. В области CA3 (хранилище памяти в гиппокампе, о котором говорилось в главе 4) в первые дни развития после рождения по нейронной популяции прокатываются волны электрической активности. Эти волны обеспечивают правильное распределение активности нейронов и прочности их связей. Нейроны-концентраторы являются вероятными координаторами этой важной синхронизированной активности; они, как правило, начинают стрелять до начала этих волн, и их стимуляция может вызвать волну. Другие исследования даже предполагают роль узловых областей в синхронизации активности всего мозга. Благодаря их высокой степени выраженности, сообщение от узла слышно далеко и широко в сети. Кроме того, узлы в мозге, как правило, сильно связаны друг с другом, и это свойство сети называют "богатым клубом". Такие связи могут гарантировать, что все узлы, посылая свои синхронизирующие сигналы, находятся на одной странице.

Даже то, как развиваются нейроны-концентраторы, указывает на их особое место в мозге. Нейроны, которые в дальнейшем образуют богатый клуб у круглого червя, например, появляются одними из первых по мере роста нервной системы. Всего через восемь часов после оплодотворения яйцеклетки рождаются все эти нейроны-концентраторы; остальная часть нервной системы формируется только через сутки. Точно так же и у людей большая часть базовой структуры концентраторов присутствует в младенческом возрасте.

Если узлы играют столь важную роль в работе мозга, то какую роль они могут играть в его дисфункции? Даниэль Бассетт исследовала этот вопрос в рамках своей обширной карьеры на пересечении сетей и нейронаук.

В начале 2000-х годов, когда методы теории графов только зарождались в области нейронаук, Бассетт была студенткой колледжа, изучавшей физику. В то время для нее, возможно, было неожиданностью услышать, что в будущем известный нейробиолог назовет ее "дуэньей сетевой науки".5 Хотя, учитывая ее воспитание, работа над дипломом физика уже сама по себе была несколько удивительной: Бассет была одной из 11 детей, получивших домашнее образование в религиозной семье, где от женщин ожидали более традиционных ролей. Ее переход к нейронаукам произошел во время защиты докторской диссертации, когда она работала с Эдвардом Буллмором, нейропсихиатром из Кембриджского университета, который был частью первой волны нейробиологов, стремившихся применить теорию графов к мозгу. Одним из первых проектов Бассетт было изучение того, как структура мозга влияет на распространенное и калечащее психическое расстройство - шизофрению.

Шизофрения - это заболевание, характеризующееся галлюцинациями и беспорядочным мышлением. Сравнивая мозглюдей с этим заболеванием и людей без него, Бассетт обнаружил ряд различий в свойствах их сетей, в том числе в узлах. Например, области в лобной коре, которые образуют узлы у здоровых людей, не образуют их у шизофреников. Нарушение работы лобной коры и ее способности подчинять себе и контролировать другие участки мозга может быть связано с галлюцинациями и паранойей, которые вызывает шизофрения. И хотя мозг шизофреника - это все еще маленький мир, средняя длина пути и сила кластеризации выше, чем у здоровых людей, что, по-видимому, усложняет взаимодействие двух разрозненных областей.

Будучи первым исследованием, в котором к этому заболеванию подошли с точки зрения теории графов, эта работа помогла перенести старую идею о "синдромах разрыва связей" в век количественных показателей. Еще в конце XIX века неврологи выдвинули гипотезу о том, что нарушение анатомических связей может приводить к расстройствам мышления. Немецкий врач Карл Вернике, в частности, считал, что высшие когнитивные функции не связаны с какой-то одной областью мозга, а возникают в результате взаимодействия между ними. Как он писал в 1885 году: "Любой высший психический процесс ... основывается на взаимном взаимодействии ... фундаментальных психических элементов, опосредованном посредством их многообразных связей через ассоциативные волокна". Поражение этих "ассоциативных волокон", по его мнению, приведет к нарушению таких сложных функций, как язык, осознание и планирование.

Теперь, когда инструменты теории графов позволили изучить "синдромы разрыва связей", все больше заболеваний такого рода исследуются с помощью современных подходов. Одним из распространенных примеров является болезнь Альцгеймера. При сравнении связности мозга пожилых пациентов с болезнью Альцгеймера с пациентами без этой болезни было обнаружено, что у пациентов с болезнью Альцгеймера длина путей между областями мозга была больше. Спутанность сознания и когнитивные нарушения при болезни Альцгеймера могут быть отчасти результатом нарушения эффективной связи между удаленными друг от друга областями мозга. Подобные изменения в сетевых структурах мозга в меньшей степени наблюдаются при обычном старении.

Открыв в 2013 году собственную лабораторию в Пенсильванском университете, Бассетт перешла от простого наблюдения за структурой мозга в состоянии здоровья и болезни к поиску способов ее использования. Активность сложных сетей бывает трудно предсказать. Слух, переданный другу, может тут же угаснуть или распространиться по всей социальной сети, в зависимости от структуры этой сети и места вашего друга в ней. Эффекты стимуляции или глушения нейронов также трудно предугадать. Лаборатория Бассетта объединяет инженерные инструменты со знаниями о структуре мозговых сетей, чтобы сделать управление нейронной активностью более простым. В частности, модели, основанные на коннектомах всего мозга отдельных людей, были использованы дляопределения того, где именно следует проводить стимуляцию мозга, чтобы добиться желаемого эффекта. Цель состоит в том, чтобы с помощью такого индивидуального лечения взять под контроль такие заболевания, как болезнь Паркинсона и эпилепсия.

Надежда на то, что метрики теории графов могут служить маркерами заболеваний - возможно, даже ранними маркерами, которые могут привести к профилактике, - сделала их весьма популярными в медицинских исследованиях. На сегодняшний день заболеваний мозга, изучаемых с помощью сетевого анализа, - болезнь Альцгеймера, шизофрения, травматическое повреждение мозга, рассеянный склероз, эпилепсия, аутизм и биполярное расстройство. Результаты, однако, оказались неоднозначными. Как было отмечено, техника МРТ, с помощью которой собираются данные, имеет свои проблемы, и в одних исследованиях обнаруживаются признаки болезни, а в других - нет. В общем, когда столько ученых с энтузиазмом ищут различия между больным и здоровым мозгом, некоторые ложноположительные и ошибочные данные обязательно попадут в выводы. Но вне зависимости от того, насколько убедительны результаты, можно с уверенностью сказать, что этот новый набор инструментов уже появился на клинической арене.

* * *

Развивающийся мозг - это извержение. Нейроны с бешеной скоростью вырываются из питомника нейронов, называемого желудочковой зоной, и устремляются во все уголки растущего мозга. Оказавшись там, они начинают устанавливать связи. Эти беспорядочные нейроны образуют друг с другом синапс за синапсом, лихорадочно соединяя клетки вблизи и вдали. На пике строительства синапсов в человеческом мозге - во время третьего триместра беременности - каждую секунду образуется 40 000 таких связей. Развитие - это взрыв генезиса нейронов и синапсов.

Но как только они появляются, многие из этих клеток и связей исчезают. У взрослого человека гораздо меньше нейронов, чем было в утробе матери; до половины нейронов, образовавшихся в процессе развития, погибают. Количество связей, которые устанавливает нейрон в коре головного мозга, достигает максимума примерно на первом году жизни и в дальнейшем сокращается на треть. Таким образом, мозг строится через всплеск и откат, разбухание и сокращение. В процессе развития обрезка нейронов и синапсов происходит безжалостно: выживают только полезные. Синапсы, например, созданы для передачи сигналов между нейронами. Если сигнал не поступает, синапс должен исчезнуть. Из этой суматохи и оборота возникают действующие нейронные цепи. Это все равно что поощрять разрастание кустарника, чтобы потом вырезать из него изящные топиарии.

Именно такой способ построения мозга нашла биология. Но если вы спросите теоретика графов, как создать сеть, он даст прямо противоположный ответ. Например, проектировщик системы общественного транспорта не станет строить кучу вокзалов и автобусных остановок и соединять их между собой, просто чтобы посмотреть, что будет использоваться. Ни одно правительство не одобрит такую трату ресурсов. Скорее, большинство графов строятся снизу вверх. Например, одна из стратегий, которую используют теоретики графов, заключается в том, чтобы сначала построить граф, который, используя как можно меньше ребер, имеет путь между любыми двумя узлами. Это означает, что некоторые пути могут быть довольно длинными, но, наблюдая за тем, какие пути используются чаще всего (пассажиры в поезде или информация, перемещающаяся между серверами в Интернете), проектировщик сети может определить, где было бы полезно добавить короткий путь. Таким образом, сеть становится более эффективной за счет добавления хорошо расположенных ребер.

Однако у мозга нет дизайнера. Нет центрального планировщика, который мог бы посмотреть вниз и сказать: "Похоже, сигналы будут проходить лучше, если вон тот нейрон будет соединен с вот этим". Вот почему мозг нуждается в избыточном воспроизводстве и обрезке. Единственный способ, которым мозг может принимать решения о том, какие связи должны существовать, - это подсчет активности, проходящей через эти связи. Отдельные нейроны и синапсы оснащены сложными молекулярными механизмами, которые измеряют, насколько они используются, и в результате растут или сокращаются. Однако если связь не существует, то и активность по ней измерить невозможно.

Обрезка связей в мозге начинается очень активно, синапсы режутся направо и налево, но со временем она замедляется. В 2015 году ученые из Института Салка и Университета Карнеги-Меллон исследовали, почему такая модель обрезки может быть полезна для мозга. Для этого они смоделировали сети, которые начали зарастать и обрезались по принципу "используй или потеряешь". Важно, что они варьировали скорость обрезки. Они обнаружили, что сети, имитирующие процесс обрезки в мозге (с высокой скоростью обрезки вначале и снижающейся со временем), имеют короткую среднюю длину пути и способны эффективно передавать информацию, даже если некоторые узлы или ребра были удалены. В сетях, где скорость обрезки была постоянной или увеличивалась с течением времени, эта эффективность и устойчивость были не столь высоки. Похоже, что уменьшение скорости обрезки позволяет быстро устранить бесполезные связи, но при этом дает сети достаточно времени для тонкой настройки оставшейся структуры; скульптор, работающий с мрамором, может быстро вырезать основную форму человека, но вырезание мелких деталей тела - это медленный и тщательный процесс. В то время как большинство физических сетей, таких как дороги или телефонные линии, никогда не будут построены на основе обрезки, цифровые сети, которые не имеют затрат, связанных с построением краев - например, сети, образованные беспроводной связью между мобильными устройствами, - могли бы извлечь выгоду из алгоритмов, вдохновленных мозгом.

* * *

Сетевая нейронаука, так называется практика использования теории графов и сетевых наук для изучения структур мозга, - молодое направление. Network Neuroscience, первый академический журнал, посвященный исключительно этому направлению, был впервые опубликован в 2017 году. Новые инструменты для картирования коннектомов в различных масштабах совпали с вычислительной мощностью для анализа все больших и больших массивов данных. В результате мы имеем наэлектризованную среду, в которой каждый день проводится все больше и больше разнообразных исследований структуры.

Однако причину для осторожности можно найти в желудке омара.

Стоматогастральный ганглий - это цепь из 25-30 нейронов, расположенных в кишечнике омаров и других ракообразных. Благодаря своим связям эти нейроны выполняют простую, но крайне важную работу: производят ритмичные мышечные сокращения, которые управляют пищеварением. Ева Мардер, профессор Университета Брандейса в Массачусетсе, потратила полвека на изучение этой горстки нейронов. Мардер родилась и выросла в Нью-Йорке, но образование получила в Массачусетсе, а затем в Калифорнии. Хотя ее докторская работа в Калифорнийском университете в Сан-Диего была посвящена нейронаукам, Мардер всегда проявляла склонность к математике: в начальной школе она пролистала учебники по математике, предназначенные для учеников на два года старше ее. Этот эрудит проникает в ее науку. На протяжении всей своей карьеры она сотрудничала с исследователями из разных областей, в том числе с Ларри Эбботом (упоминавшимся в главе 1), когда он переходил от физики элементарных частиц к известному теоретическому нейробиологу. Сочетая экспериментальную точность с математическим мышлением, Мардер тщательно исследовала работу этой маленькой схемы омара как физически, так и с помощью компьютерного моделирования.

Коннектома стоматогастрального ганглия омара известна с 1980-х годов. 30 нейронов этого ганглия образуют 195 связей и посылают сигналы к мышцам желудка. В своей докторской диссертации Мардер выясняла, какие химические вещества используют эти нейроны для связи. Помимо стандартных нейротрансмиттеров - химических веществ, проходящих через маленькую синаптическую щель между нейроном, который их выделяет, и нейрономихпринимает, - Мардер обнаружила целый ряд нейромодуляторов

Нейромодуляторы - это химические вещества, которые изменяют настройки нейронной цепи. Они могут изменять силу связей между нейронами в большую или меньшую сторону, заставлять нейроны работать чаще, реже или по разным схемам. Нейромодуляторы вызывают эти изменения, цепляясь за рецепторы, встроенные в клеточную мембрану нейрона. Нейромодуляторы примечательны в первую очередь тем, откуда они берутся и как попадают в нейрон. В самом крайнем случае нейромодулятор может высвобождаться из другой части мозга или тела и через кровь добираться до места назначения. В других случаях нейромодулятор высвобождается локально из близлежащих нейронов - но независимо от того, откуда он поступает, нейромодуляторы имеют тенденцию омывать цепь без разбора, затрагивая множество нейронов и синапсов диффузным образом. Если обычная нейротрансмиссия похожа на письмо, отправленное между двумя нейронами, то нейромодуляция - это листовка, разосланная всему сообществу.

В 1990-х годах Мардер вместе с сотрудниками своей лаборатории и лаборатории Майкла Нусбаума, профессора Пенсильванского университета, экспериментировала с нейромодуляторами в цепи стоматогастрального ганглия. Обычно эта цепь вырабатывает устойчивый ритм, когда определенные нейроны в популяции срабатывают примерно раз в секунду. Но когда экспериментаторы ввели в схему нейромодуляторы, это поведение изменилось. Некоторые нейромодуляторы увеличивали ритм: те же нейроны стреляли, но чаще. Активируя нейроны, которые обычно молчали. Нейромодуляторы, вызывающие эти изменения, выделялись из нейронов, которые обычно обеспечивают вход в эту цепь. Это означает, что различные модели выходного сигнала могут возникать естественным образом в течение всей жизни животного. В более искусственных условиях нейромодуляторы, добавленные экспериментаторами, могут вызывать еще более значительные и разнообразные изменения.

Важно отметить, что на протяжении всех этих экспериментов базовая сеть не менялась. Нейроны не добавлялись и не удалялись, не сокращались и не наращивались связи. Заметные изменения в поведении происходили исключительно благодаря небольшому количеству нейромодуляторов в устойчивой структуре.

Масштабные усилия, затраченные на получение коннектома, предполагают определенную отдачу от его наличия, но отдача будет меньше, если связь между структурой и функцией окажется слабее, чем могло показаться. Если нейромодуляторы могут освободить активность нейронов в цепи от строгих ограничений их архитектуры, значит, структура - это не судьба. Возможно, это не вызывало бы такого беспокойства, если бы нейромодуляция была явлением, характерным только для стоматогастрального ганглия. Однако это далеко от истины. Мозг постоянно купается в модулирующих молекулах. У разных видов нейромодуляторы отвечают за все - от сна до обучения, от линьки до еды. Нейромодуляция - это правило, а не исключение.

С помощью математического моделирования схем, которые она изучает, Мардер изучила не только то, как различные формы поведения возникают на основе одной и той же структуры, но и то, как различные структуры могут вызывать одинаковые формы поведения. В частности, у каждого омара схема кишечника имеет несколько иную конфигурацию: связи могут быть построены сильнее или слабее у одного животного по сравнению с другим. Смоделировав 20 миллионов возможных ганглиозных схем, лаборатория Мардера обнаружила, что подавляющее большинство из них не способно создавать нужные ритмы, но некоторые специфические конфигурации - да. Каждый омар, благодаря определенной комбинации генов и развития, находит свой путь к одной из этих функционирующих конфигураций. Эта работа делает важный вывод об индивидуальных мозгах: разнообразие не всегда означает различие. То, что может выглядеть как отклонение от структурной нормы, на самом деле может быть совершенно правильным способом достижения тех же результатов. То, что эти разнообразные структуры создают одни и те же ритмы, добавляет еще один нюанс к взаимосвязи структуры и функции.

Работа Мардер не только показывает ограниченность структуры для понимания функций, но и свидетельствует о ее необходимости. Работа всей ее жизни - и все те открытия, которые она сделала, - построена на основе коннектома. Без этой подробной структурной информации невозможно исследовать взаимосвязь между структурой и функцией. Как писал Мардер в 2012 г.: "Подробные анатомические данные бесценны. Ни одна схема не может быть полностью понята без диаграммы связей". Однако далее она отмечает, что "диаграмма связности - это только необходимое начало, но не ответ на вопрос". Другими словами, когда речь идет о понимании мозга, знание структуры нервной системы одновременно и совершенно необходимо, и совершенно недостаточно.

Таким образом, возможно, не удастся воплотить в жизнь идею Кахаля об интуитивном понимании функций нервной системы на основе одних лишь размышлений о ее структуре. Но работа по поиску и формализации этой структуры по-прежнему является важной предпосылкой для дальнейшего понимания мозга. Инновационные методы сбора данных о коннектоме расцветают, а формализмы теории графов готовы принять и переварить эти данные.

Глава 10. Принятие рациональных решений.

Вероятность и правило Байеса

Когда Герман фон Гельмгольц был маленьким ребенком в Пруссии начала XIX века, он гулял с матерью по своему родному городу Потсдаму. Проходя мимо стойки с маленькими куклами, выстроенными в ряд, он попросил ее протянуть руку и взять одну для него. Однако его мать не согласилась, но не из-за пренебрежения или недисциплинированности. Скорее, она не могла дотянуться до кукол, потому что их не было. То, что переживал юный Гельмгольц, было иллюзией; "куклы", которых он видел рядом с собой, на самом деле были людьми, находящимися далеко, на вершине городской церковной башни. "Эти обстоятельства запечатлелись в моей памяти, - писал позже Гельмгольц, - потому что именно благодаря этой ошибке я научился понимать закон ракурса в перспективе".

Гельмгольц стал выдающимся врачом, физиологом и физиком. Одним из его величайших вкладов стала разработка офтальмоскопа - инструмента для осмотра глаза, который используется врачами и по сей день. Он также углубил понимание цветового зрения, разработав "трихроматическую теорию" - идею о том, что три различных типа клеток в глазу реагируют на разные длины волн света, - благодаря которой он пришел к выводу, что у пациентов с дальтонизмом должен отсутствовать один из этих типов клеток. За пределами глаз Гельмгольц опубликовал том об акустике - восприятии тонов, о том, как звук проходит через ухо и как он возбуждает нервы. Обратившись со свойственной ему вдумчивостью и точностью к изучению органов чувств, Гельмгольц неоднократно освещал физические механизмы, с помощью которых информация из окружающего мира поступает в сознание.

Но более глубокий вопрос о том, как разум использует эту информацию, всегда не давал ему покоя. Унаследовав от отца интерес к философии, Гельмгольц сформировал свое мировоззрение под влиянием работ немецкого философа Иммануила Канта. В философии Канта "Ding an sich", или "вещь в себе", относится к реальным объектам в мире - объектам, которые нельзя ощутить непосредственно, а только через впечатления, которые они производят на наши органы чувств. Но если два разных объекта в мире - например, близкая кукла или далекий человек - могут создавать одинаковую картину света, попадающего в глаз, как разум решает, какой из них правильно воспринимать? Как, хотел узнать Гельмгольц, может формироваться восприятие из двусмысленных или неопределенных сигналов?

Размышляя над этим вопросом, Гельмгольц пришел к выводу, что между моментом поступления сенсорной информации и моментом ее превращения в осознанное переживание должно пройти большое количество времени. Результат этой обработки, писал он, "эквивалентен заключению в той мере, в какой наблюдаемое действие на наши органы чувств позволяет нам сформировать представление о возможной причине этого действия". Эта идея стала известна как "бессознательное умозаключение", поскольку об объектах в мире можно судить по их воздействию на органы чувств. Вдохновляясь Кантом, Гельмгольц предложил, чтобы это умозаключение происходило путем интерпретации текущего сенсорного сигнала в свете ранее существовавших знаний о мире. В частности, подобно тому, как ошибка с куклами научила его видеть перспективу, Гельмгольц считал, что опыт прошлого может влиять на восприятие в настоящем1.

Несмотря на то, что Гельмгольц был одним из самых математически подкованных физиологов всех времен, он так и не дал математического определения бессознательному умозаключению. Его идеи на эту тему, хотя и были основательными, оставались качественными и в основном умозрительными. Они также были отвергнуты. Ученые того времени считали, что понятие "бессознательное умозаключение" является противоречием в терминах. Умозаключение, или принятие решений, по умолчанию является сознательным процессом; оно просто не может происходить на поверхности.

Но спустя почти 100 лет после смерти Гельмгольца психологи, использующие математику, разработанную более чем за 50 лет до его рождения, подтвердили свою правоту. Бессознательное умозаключение, облаченное в уравнения вероятности, стало воплощением основных механизмов восприятия, принятия решений и действий человека.

* * *

Нередко математические темы - даже самые абстрактные - берут свое начало в очень практичных профессиях. Инструменты геометрии возникли благодаря строительству и землеустройству; древние астрономы способствовали тому, что понятие нуля стало общепринятым; а область вероятности родилась из азартных игр.

Джироламо Кардано был итальянским врачом, но, в отличие от многих образованных людей XVI века, он с удовольствием занимался самыми разными предметами. По его собственным подсчетам, он написал более сотни книг - большинство из них утрачены временем - с такими разными названиями, как "О семи планетах", "О бессмертии души" и "О моче". По поводу одной из своих книг, которая останется для потомков, Кардано писал: "Книгу "Об азартных играх" я тоже написал; почему бы человеку, который является азартным игроком, копателем и в то же время автором, не написать книгу об азартных играх?". И Кардано был азартным игроком; книга больше похожа на руководство по азартным играм, основанное на личном опыте, чем на учебник. Тем не менее для своего времени это было самое подробное изложение правил вероятности.

Кардано посвящает большую часть своей математики бросанию игральных костей. Он быстро признает, что вероятность выпадения любой из шести сторон кости не меньше, чем у других, но на практике они не всегда будут выпадать одинаково: "При шести бросках каждая точка должна выпасть один раз; но поскольку некоторые из них повторяются, из этого следует, что другие не выпадут". Рассмотрев примеры того, чего можно ожидать при бросании одной, двух или трех костей, он заключает: "Есть одно общее правило, а именно: мы должны рассмотреть всю схему, число тех бросков, которые представляют, сколькими способами может произойти благоприятный результат, и сравнить это число с остальной частью схемы". Другими словами, вероятность того, что произойдет определенный результат, можно рассчитать как количество исходов, которые приведут к этому результату, деленное на общее количество возможных исходов.

Возьмем, к примеру, бросание двух игральных костей. Если при бросании одной кости есть шесть возможных исходов, то при бросании двух костей есть 6 x 6 = 36 возможных исходов. Если мы скажем, что наш желаемый результат состоит в том, чтобы после бросания двух костей их грани в сумме равнялись трем, то существует два возможных исхода, которые приведут к этому результату: 1) первая кость покажет единицу, а вторая - два; или 2) первая кость покажет два, а вторая - единицу. Таким образом, вероятность того, что мы получим желаемый результат, равна 2/36 или 1/18.

По словам Кардано, "азартные игры - это не что иное, как мошенничество, числа и удача". Поэтому, помимо обсуждения чисел, он постарался посвятить более двух глав теме мошенничества. В основном речь шла о том, как заметить мошенника: "Кость может быть нечестной либо потому, что она закруглена, либо потому, что она слишком узкая (недостаток, который хорошо виден)". В книге также давались советы, как справиться с шулером, если вы его заметили: "Если вы подозреваете мошенничество, играйте на маленькие ставки, приглашайте зрителей". Хотя стоит отметить, что автобиография Кардано предлагает совсем другой взгляд на реакцию. В главе под названием "Опасности, несчастные случаи и постоянные предательства" он вспоминает случай, когда заметил, что карты человека помечены, и "я порывисто, хотя и неглубоко, ударил его по лицу своим понтиардом".

Важно отметить, что Кардано ясно дал понять, что большинство его расчетов вероятностей справедливы только в том случае, если используемые кости были честными, а не если он играл "в доме профессионального шулера" (как он описал инцидент выше). В этом случае вероятности нужно было бы "сделать настолько больше или меньше, насколько это соответствует отклонению от истинного равенства".

Учет различных вероятностей при различных условиях - например, если игрок жульничает - впоследствии стал известен как условная вероятность. Условную вероятность можно представить как простое утверждение "если - то". Если вам известно, что X истинно, то какова вероятность того, что Y тоже истинно? Например, учитывая, что кубик честный, вероятность того, что при броске выпадет двойка, равна 1/6. В противном случае вероятность будет равна, скажем, 1/3, если вы играете с шулером, который изменил кубик так, чтобы он предпочитал двойки. Таким образом, вероятность события зависит от обстоятельств, которыми оно обусловлено.

Одной из тем, которая ставила математиков в тупик на протяжении столетий после Кардано, был вопрос об обратной вероятности. Стандартная вероятность может сказать, как разные кости создают разные шансы, но цель обратной вероятности заключалась в том, чтобы пойти другим путем - обратить рассуждения и найти причину, стоящую за следствиями.2 Например, если Кардано не знал, участвует ли он в игре с шулером или нет, он мог наблюдать за бросками кости, чтобы попытаться определить, была ли она предвзятой. Если выпадало слишком много двоек, он мог заподозрить неладное (хотя, надеюсь, держал бы свою пинаду при себе).

Французский математик Пьер-Симон Лаплас работал над проблемой обратной вероятности с перерывами на протяжении 40 лет своей карьеры. Кульминация наступила в 1812 году, когда была опубликована "Аналитическая теория вероятностей". Здесь Лаплас демонстрирует простое правило, которое впоследствии станет одним из самых важных и влиятельных открытий в математике

Правило гласит, что если вы хотите узнать вероятность того, что кубик взвешен, вам нужно объединить два разных понятия. Первое - это вероятность того, что броски, которые вы видели, могли быть сделаны взвешенным кубиком, а второе - вероятность того, что кубик вообще взвешен. Более технически это обычно выражается так: вероятность вашей гипотезы ("кубик взвешен") с учетом ваших доказательств (бросков, которые вы видели) пропорциональна вероятности ваших доказательств с учетом вашей гипотезы (вероятность того, что вы увидите эти броски, если кубик взвешен), умноженной на вероятность вашей гипотезы (насколько вероятно, что кубик взвешен изначально) (см. Рисунок 22).

Допустим, три раза подряд на кубике выпало "два", и вы хотите узнать, не хотят ли вас подвезти. Если кубик честный, то вероятность такой полосы равна 1/6 x 1/6 x 1/6 = 1/216. Это можно назвать вероятностью доказательства, если верить, что кубик честный. С другой стороны, кубик может быть взвешен так, чтобы бросать двойку, скажем, в одной трети случаев. Вероятность доказательства при гипотезе, что кубик взвешен таким образом, будет равна 1/3 x 1/3 x 1/3 = 1/27. Сравнивая эти числа, становится ясно, что вероятность выпадения трех двоек подряд на взвешенном кубике гораздо выше, чем на честном; похоже, вы играете с шулером.

Но этих цифр недостаточно. Чтобы сделать правильный вывод, согласно правилу, нам нужно объединить их с дополнительной информацией. В частности, нужно умножить эти числа на общую вероятность того, что кубик будет взвешен или нет.

Допустим, в этом случае ваш партнер по азартным играм - ваш самый близкий друг с многолетним стажем. Вы бы оценили вероятность того, что он использует взвешенный кубик, как 1 к 100. Умножив вероятность выпадения трех двоек при использовании взвешенного кубика на низкую вероятность того, что кубик взвешен, мы получим 1/27 x 1/100 = 1/2 700 или 0,00037. Проделав это для другой гипотезы - о том, что кубик невзвешенный, - мы получим 1/216 x 99/100 = 0,0045. Если второе число больше первого, то вы справедливо заключите, что ваш друг на самом деле не мошенник.

Этот пример демонстрирует силу предварительной оценки. Приор" - это название вероятности гипотезы, в данном случае вероятности того, что ваш друг подменил кубик. Если выполнить те же уравнения, но предположить, что вы играете с незнакомцем, который с такой же вероятностью может обмануть, как и нет (то есть вероятность обмана равна 0,5), результат будет другим: 0,019 против 0,0023 в пользу взвешенного кубика. Таким образом, сильная предварительная оценка может стать решающим фактором.

Другой термин - вероятность рулонов с учетом гипотезы - называется "вероятностью". Она показывает, насколько вероятно, что вы увидите то, что увидели, если ваша гипотезао мире окажется верной. Его роль в обратной вероятности отражает тот факт, что для определения причины любого следствия необходимо сначала узнать вероятные следствия каждой причины.

И вероятность, и предшествующее значение сами по себе неполны. Они представляют собой разные источники знаний: доказательства, которые вы имеете здесь и сейчас, и понимание, накопленное со временем. Когда они согласны, результат прост. В противном случае они оказывают свое влияние пропорционально своей уверенности. При отсутствии четких предварительных знаний вероятность доминирует над решением. Когда влияние предшественника сильно, он может заставить вас не верить собственным глазам. При наличии сильного предшествующего фактора в экстраординарные утверждения можно поверить только при наличии экстраординарных доказательств.

"Когда вы слышите стук копыт, думайте о лошадях, а не о зебрах" - этот совет часто дают студентам-медикам. Он призван напомнить им, что из двух заболеваний со схожими симптомами первым следует предположить более распространенное. Это также отличный пример правила обратной вероятности в действии. Независимо от того, находитесь ли вы в присутствии лошади или зебры, у вас одинаковые шансы услышать стук копыт; говоря техническим языком, вероятность в этих двух случаях одинакова. При таких неоднозначных данных решение принимается на основе предварительных знаний, и в данном случае предварительные знания говорят, что лошади встречаются чаще, а значит, это лучшее предположение.

Рисунок 22

За 200 лет, прошедших с момента публикации его работы, в газетах, учебниках и на классных досках уравнение для обратной вероятности, которое записал Лаплас, стало называться "правилом Байеса". Томас Байес был пресвитерианским священником в Англии XVIII века. Будучи также математиком-любителем, Байес проделал работу над проблемой обратной вероятности и смог решить ее конкретную версию. Но все его размышления и вычисления так и не привели его к той форме правила Байеса, которую мы знаем сегодня. Более того, сам Байес так и не опубликовал эту работу. Эссе, содержащее его мысли о "проблеме в учении о шансах", было в конце концов отправлено в Королевское общество его другом, другим священником по имени Ричард Прайс, в 1763 году, через два года после смерти Байеса. Прайс приложил значительные усилия, чтобы превратить заметки Байеса в полноценное эссе; он написал введение, мотивирующее проблему, и добавил обширное техническое приложение (к сожалению, все эти усилия не помешали назвать эссе "одной из самых трудных для чтения работ в истории статистики"). Несмотря на то что Лаплас был жив во время публикации эссе Байеса, он, похоже, узнал о нем только после того, как сам добился значительного прогресса.

Можно сказать, что преподобный Байес не вполне заслужил посмертно подаренную ему империю. Не факт, что он вообще хотел бы ее получить. Правило Байеса не всегда пользовалось успехом среди ученых и философов. Подобно работе Гельмгольца о бессознательном умозаключении, это уравнение в разной степени недоиспользовалось и неправильно понималось. Изначально это было связано с трудностью его применения. Сам Лаплас смог использовать это правило для решения некоторых задач по измерению в астрономии, а также для поддержки давней гипотезы о том, что в среднем рождается чуть больше детей мужского пола, чем женского. Однако, в зависимости от задачи, применение правила Байеса могло включать в себя сложные вычисления, что делало этот подход обременительным до появления современных компьютеров.

Но настоящая борьба за правило Байеса началась позже - и была более глубокой. В то время как достоверность уравнения Лапласа не вызывала сомнений, вопрос о том, как интерпретировать это уравнение, занимал и разделял статистиков на протяжении десятилетий. По словам философа науки Дональда Гиллиса: "Спор между байесовцами и антибайесовцами был одним из главных интеллектуальных противоречий двадцатого века". Самой большой мишенью в прицеле антибайесовцев был предшественник. Откуда, - хотели они знать, - берется эта информация? Теоретически, это мировое знание. На практике - это чьи-то знания. Как сказал гигант статистики двадцатого века Рональд Фишер, предположения, которые используются при выборе предшественника, "совершенно произвольны, и не было предложено ни одного метода, с помощью которого такие предположения могли бы быть сделаны даже с последовательной уникальностью". Не предоставляя беспристрастной, повторяемой процедуры для получения заключения, правило Байеса не было правилом вообще. Из-за этого метод был отброшен в сторону и заклеймен - так, чтобы наверняка отпугнуть серьезных ученых, - как "субъективный".

Однако концептуальные проблемы имеют обыкновение меркнуть, когда их выставляют на свет практических доказательств. И во второй половине двадцатого века правило Байеса доказало свою состоятельность. Актуарии, например, осознали, что их ставки лучше рассчитывать, используя принципы обратной вероятности. В эпидемиологии Байес помог разобраться между курением и раком легких. А в борьбе с нацистами специалист по взлому кодов Алан Тьюринг использовал принципы Байеса, чтобы раскрыть сообщения, записанные с помощью "несокрушимой" машины Enigma. Правило Байеса становилось укротителем неопределенности везде, где она появлялась. С практической точки зрения, предварительная оценка представляла собой лишь небольшую проблему. Его можно инициализировать с помощью обоснованной догадки и обновлять в свете новых доказательств (или, при отсутствии каких-либо знаний вообще, каждой гипотезе просто дается равный шанс). Благодаря своему постоянному успеху, несмотря на активное движение против него, правило Байеса, безусловно, заслуживает титула, присвоенного ему в книге Шэрон МакгрэйнТеория, которая не умирает".

* * *

Когда правило Байеса вошло в психологию, это произошло не на ура, а наперегонки. Ни одна публикация не принесла его в психологию. Напротив, начиная с теории принятия решений в 1960-х годах, множество различных направлений исследований использовали и изучали его, пока в конце концов на рубеже XXI века не расцвела идея о том, что мозг - это Байес.

Некоторые из первых работ по изучению байесовских принципов в мозге появились в маловероятном месте: в космосе. Выполняя свою миссию по запуску космических путешествий, Национальное управление по аэронавтике и исследованию космического пространства (NASA) знало, что ему придется разрабатывать не только летные костюмы и реактивные двигатели. Оно также изучало "человеческие факторы" полета - например, как пилоты читают бортовое оборудование, чувствуют окружающую обстановку и взаимодействуют с органами управления. Исследуя эту проблему в 1972 году, инженер-авиаконструктор Ренвик Карри написал одну из первых работ, в которой человеческое восприятие рассматривалось в байесовских терминах. В частности, он использовал правило Байеса для объяснения закономерностей в восприятии человеком движения. Однако академические границы таковы, каковы они есть, что мало кто из психологов услышал об этом.

Экономика предложила еще один способ проникновения Байеса. Стремясь отразить человеческое поведение в компактной математической форме, экономисты обратились к правилу Байеса еще в 1980-х годах. В работе "Принимают ли люди решения по Байесу?", написанной Уильямом Вискоуси в 1985 году, было показано, что работники либо переоценивают, либо недооценивают рискованность конкретной работы, поскольку полагаются на свои предварительные убеждения о том, насколько рискованна работа в целом.

Психологи также заметили появление Байеса на горизонте через один из своих прежних источников вдохновения. Как мы видели в главе 3, на изучение мозга оказала влияние область формальной логики. К концу двадцатого века вероятность во многих отношениях стала новой логикой - усовершенствованным способом оценки мышления человека. Вместо жесткой дихотомии "истина-ложь", свойственной булевой логике, вероятность предлагает оттенки серого. Таким образом, она лучше согласуется с нашими собственными интуитивными представлениями о наших убеждениях. Как писал сам Лаплас: "Теория вероятностей - это не что иное, как здравый смысл, сведенный к вычислениям".

Конечно, вероятность немного лучше, чем это, потому что математически выработанные правила являются лучшей формой здравого смысла - и правило Байеса, в частности, является рецептом того, как лучше рассуждать.

Именно на этих основаниях Джон Андерсон официально представил байесовский подход к психологии в рамках метода, который он назвал "рациональным анализом". Эта идея пришла к нему в 1987 году, когда он находился в Австралииотпуске от работы в качестве профессора психологии и информатики в Университете Карнеги-Меллон. Рациональный анализ, по мнению Андерсона, основан на вере в то, что "существует причина того, как устроен разум". В частности, он утверждает, что понимание того, как работает разум, лучше всего вырастает из понимания того, откуда он взялся. Когда речь заходит о Байесе, рассуждения начинаются с того, что люди живут в беспорядочном, неопределенном мире. Тем не менее, - утверждает Андерсон, - люди эволюционировали в этом мире, чтобы вести себя как можно более рационально. Правило Байеса - это описание того, как рационально рассуждать в условиях неопределенности. Следовательно, люди должны использовать правило Байеса. Проще говоря, если эволюция выполнила свою работу, мы должны увидеть правило Байеса в мозге.

Детали того, как правило будет применяться и к каким проблемам, зависят от более конкретных особенностей окружающей среды. В качестве примера Андерсон предлагает байесовскую теорию запоминания. Она гласит, что вероятность того, что конкретное воспоминание окажется полезным в определенной ситуации, определяется путем комбинирования: 1) вероятности того, что вы окажетесь в этой ситуации, если это воспоминание окажется полезным; и 2) предварительного условия, которое предполагает, что более недавние воспоминания с большей вероятностью окажутся полезными. Такой выбор приоритета призван отразить тот факт, что люди живут в мире, где информация имеет срок годности; поэтому более свежие воспоминания с большей вероятностью будут иметь ценность.

Важно отметить, что в рамках рационального анализа "рациональное" может быть далеко не идеальным. Например, память, конечно, может нас подвести. Но, согласно этой точке зрения, если мы забываем факт из начальной школы спустя 20 лет, мы не поступаем нерационально. Учитывая ограниченные возможности памяти и постоянно меняющийся мир, в котором мы живем, имеет смысл забыть старую и малоиспользуемую информацию. Таким образом, приоритет в байесовской модели можно рассматривать как хранилище коротких путей. Это кодировка основных статистических данных о мире, которая позволяет принимать решения быстрее, проще и - в большинстве случаев - точнее. Однако если мы оказываемся в мире, который отличается от того, в котором мы развивались и эволюционировали, наши предубеждения могут ввести в заблуждение. Совет "Думай о лошадях" хорош только там, где лошадей больше, чем зебр.

* * *

В начале 1993 года группа исследователей встретилась в гостинице Chatham Bars Inn в Чатеме, штат Массачусетс. В группу входили психологи Дэвид Книлл (профессор Пенсильванского университета, выступавший в роли организатора) и Уитман Ричардс (профессор Массачусетского технологического института, входивший в первую группу аспирантов факультета психологии в 1960-х годах). На встрече также присутствовали ученые, занимавшиеся физиологией и неврологией, такие как Генрих Бюльтхофф, работавший над зрительной системой плодовых мушек, а также инженеры и математики, такие как Алан Юилль, ученик Стивена Хокинга.

На повестке дня этой эклектичной группы стоял поиск новой формальной теории восприятия - в идеале такой, которая могла бы отразить всю сложность органов чувств и одновременно предложить новые, проверяемые гипотезы. Особую озабоченность вызывало то, что на органы чувств влияет не только то, что бросается в глаза, уши или нос. То есть поступающая сенсорная информация сочетается с богатым набором фоновых знаний, прежде чем восприятие будет завершено. По словам Книлла, ни одна теория в то время не могла точно сказать, "как предварительные знания должны быть использованы при интерпретации сенсорных данных".

На этой встрече была написана книга, опубликованная в 1996 году, название которой раскрывает решение, к которому пришли участники: "Восприятие как байесовское умозаключение". Семена этой идеи, как мы видели, были разбросаны по всему миру в течение некоторого времени, прорастая разными способами в разных областях. Это была возможность собрать их воедино. В книге представлен единый и ясный подход к байесовскому исследованию восприятия, сфокусированный в основном на зрении. Ее успех породил бесчисленное количество исследовательских работ в последующие годы. Если работа Андерсона по "рациональному анализу" нанесла Байеса на карту психологии, то эта книга дала ему собственную страну.

Чтобы понять основы байесовского восприятия, рассмотрим пример. Свет отражается от цветка и попадает в глаз. Длина волны света составляет около 670 нанометров (нм). Задача мозга, учитывая длину волны, которую он получает, определить, что представляет собой "вещь в себе" или что на самом деле происходит в мире. В байесовских терминах это будет вероятность гипотезы о наличии определенного цветка, учитывая, что на глаз падает волна длиной 670 нм.

Правило Байеса подсказывает нам, что делать. Сначала нужно выяснить, насколько вероятно увидеть эту длину волны в разных условиях. Вероятность увидеть свет длиной 670 нм, если цветок синий и освещен белым светом, очень мала (синий свет находится в диапазоне 450-480 нм). Вероятность увидеть свет 670 нм, если цветок красный и освещен белым светом, довольно высока: 670 нм находится в середине красного спектра. Однако вероятность увидеть свет 670 нм, если цветок белый и освещен красным светом, также достаточно высока. Поскольку оба эти сценария с одинаковой вероятностью дают 670-нм свет, если мы остановимся на этом, мы можем не знать, какая из интерпретаций лучше.

Но, как хорошие байесианцы, мы помним о важности предварительной оценки. Вероятность того, что мир освещен красным светом, по большинству показателей довольно мала. Однако белый свет встречается очень часто. Поэтому сценарии, предполагающие белый свет, гораздо более вероятны. Умножив предварительную вероятность различных сценариев на вероятность увидеть свет длиной 670 нм в этом сценарии, мы видим, что только один из них имеет высокие показатели по обоим этим параметрам. Поэтому мы делаем вывод, что перед нами находится красный цветок, освещенный обычным белым светом.

Конечно, на самом деле "мы" не приходим к такому выводу. Этот процесс, как и предполагал Гельмгольц, происходит бессознательно. Шансы взвешиваются вне нашего поля зрения, и мы знаем только конечный результат. Таким образом, это бесконечная процедура производства восприятия - подземная производственная линия в сознании. В каждый момент времени вероятности вычисляются и сравниваются, каждое восприятие - это вычисление по правилу Байеса.

Учитывая всю ту работу, которая проделывается над восприятием, неудивительно, что мозг иногда выдает странные результаты. В 2002 году группа исследователей из США и Израиля составила каталог ряда распространенных иллюзий, которые возникают у людей при попытке оценить движение объекта . В их числе - тот факт, что форма объекта влияет на направление, в котором, как нам кажется, он движется, что два предмета, движущиеся в разных направлениях, могут казаться одним и что более тусклые объекты движутся медленнее.

Это может показаться простым перечислением наших недостатков, но исследователи обнаружили, что все эти промахи можно объяснить с помощью простой байесовской модели. В частности, эти привычки выпадают из расчета, если мы принимаем определенное предварительное предположение: что движение с большей вероятностью будет медленным, чем быстрым. Возьмем, к примеру, последнюю иллюзию. Когда объект трудно разглядеть,доказательства, которые он дает о своем движении, слабы. В отсутствие доказательств правило Байеса опирается на предварительное суждение, а оно говорит, что предметы движутся медленно. Этот математический прием может объяснить, почему водители склонны превышать скорость в тумане: имея слабую информацию о собственном движении, они полагают, что их скорость слишком мала. Важно, что байесовский подход переосмысливает эти уловки разума как черты рационального расчета. Он показывает, что некоторые ошибки на самом деле являются разумными предположениями в неопределенном мире.

Однако в процессе восприятия есть и другая сторона. До сих пор мы просто предполагали, что восприятие, которое мы испытываем, должно быть тем, которое имеет наибольшую вероятность. Это разумный выбор, но тем не менее это выбор, и его можно сделать по-другому.

Рисунок 23

Рассмотрим кубик Неккера. Эта знаменитая иллюзия (см. рис. 23) допускает более одной интерпретации: нижний квадрат может быть виден выходящим вперед, как у коробки, обращенной немного вниз, или он может быть позади плоскости страницы, что предполагает коробку, наклоненную вверх. Вероятность того, что оба ящика дают такой рисунок линий, одинакова, поэтому решение о том, какое состояние является истинным, будет сильно зависеть от предшествующего. Скажем, коробки, наклоненные вниз, в целом более вероятны. Таким образом, после применения правила Байеса вероятность того, что при виде этих линий мы увидим коробку, наклоненную вниз, равна 0,51, а коробку, наклоненную вверх, - 0,49. Применяя стандартный подход к отображению этого на восприятие, мы бы сказали, что побеждает большая из двух вероятностей - мы видим коробку, наклоненную вниз, и точка.

С другой стороны, вместо того чтобы выбирать одну интерпретацию и придерживаться ее, мозг может чередовать их. В один момент коробка может оказаться внизу, а в другой - вверху, неоднократно переключаясь туда-сюда. В этом случае вероятности говорят нам не о том, какой интерпретации придерживаться, а о том, сколько времени проводить в каждой из них.

Именно такое переключение наблюдали исследователи из Рочестерского университета (в том числе Дэвид Книлл) в ходе эксперимента, проведенного в 2011 году. Экспериментаторы наложили два визуальных паттерна таким образом, что было непонятно, находится ли первый поверх второго или наоборот - то есть изображение можно было интерпретировать двумя разными способами. Попросив людей указать, когда их восприятие изображения переключается с одного вида на другой, они смогли определить количество времени, потраченного на восприятие каждого из них. Если предположить, что любой из узоров с одинаковой вероятностью окажется наверху (то есть предварительные вероятности одинаковы), то, согласно правилу Байеса, люди должны тратить 50 процентов своего времени на восприятие каждого из вариантов. Именно это и было обнаружено. Но чтобы действительно проверить предсказательную силу правила Байеса, ученым нужно было отойти от сценария 50 на 50. Для этого они изменили изображение так, чтобы один узор оказался немного выше другого. Это изменило вероятность - то есть вероятность увидеть это изображение, учитывая, что один или другой узор действительно находится сверху. Чем больше они изменяли изображение в этом направлении, тем больше времени зрители тратили на то, чтобы увидеть предпочитаемый узор сверху - в точном соответствии с правилом Байеса.

Как показывает это исследование, набор вероятностей может быть сопоставлен с восприятием интересным образом - такое сопоставление ученые называют функцией принятия решения. Само правило Байеса не говорит нам, какую функцию принятия решения использовать; оно лишь предоставляет вероятности. Восприятие может быть сведено к интерпретации с наибольшей вероятностью, а может и нет. Восприятие может быть выборкой из различных интерпретаций с течением времени в соответствии с их вероятностями, а может и не быть. В целом, восприятие может быть результатом любой сложной комбинации вероятностей. Таким образом, вывод правила Байеса обеспечивает богатое представление сенсорной информации, которое мозг может использовать любым способом, который кажется наиболее разумным. Таким образом, вероятности означают возможности.

Еще одно преимущество представления о разуме как об оперировании вероятностями заключается в том, что оно открывает возможность количественно оценить потенциально неуловимое понятие: уверенность. Уверенность интуитивно связана с доказательствами и уверенностью. Когда мы идем по темной комнате, где визуальные свидетельства слабы, мы двигаемся медленно, потому что не уверены, что не наткнемся на стену или стол. Однако в ярко освещенной комнате сильное влияние четких визуальных свидетельств устраняет подобные сомнения. Гипотеза уверенности Байеса формализует эту интуицию, утверждая, что степень уверенности человека в своей интерпретации мира напрямую связана с вероятностью этой интерпретации с учетом имеющихся доказательств - то есть с результатом правила Байеса. В темной комнате, где доказательств мало, вероятность любой интерпретации комнаты низка, а значит, и уверенность тоже.

В 2015 году исследователи из Великобритании проверили, насколько хорошо эта байесовская гипотеза соответствует данным. Для этого они попросили людей искать определенный паттерн в двух разных изображениях, которые быстро мелькали одно за другим. Затем испытуемые сообщали, на каком из двух изображений был узор, и, что немаловажно, насколько они были уверены в своем решении. Решения и уверенность испытуемых сравнивались с предсказаниями байесовской модели и с предсказаниями двух более простых математических моделей. Правило Байеса обеспечило лучшее соответствие для большинства данных, что подтверждает гипотезу уверенности Байеса.

* * *

В лаборатории нам нравится упрощать огромную задачу - понять, как работает мозг", - сказала Дора Ангелаки в интервью в 2014 году. Традиционно нейронаука изучает по одной сенсорной системе за раз. Но в реальном мире все происходит иначе".

Ангелаки, родом с Крита, является профессором нейронаук в Нью-Йоркском университете. Своим желанием докопаться до глубинных принципов работы вещей она объясняет свое образование в области электротехники. В рамках своих исследований она исправляет предубеждение нейронауки к простоте, изучая взаимодействие органов чувств.

Ангелаки стремится объединить зрительные и вестибулярные органы чувств. Вестибулярная система обеспечивает малоизвестное шестое чувство равновесия. Расположенная глубоко в ухе, она состоит из множества крошечных трубок и заполненных камнями мешочков. Благодаря движению жидкостей в трубках и перемещению камней система, подобно жидкости в уровне, измеряет наклон и ускорение головы. Эта система работает в тандеме со зрительной системой, обеспечивая общее ощущение места, ориентации и движения. Когда эти две системы не работают, могут возникнуть неприятные ощущения, такие как укачивание.

Пытаясь понять работу вестибулярной системы, Ангелаки заимствовала методы из необычного источника: обучения пилотов. Испытуемые в ее экспериментах пристегиваются к сиденью на движущейся платформе, подобной тем, что используются в летных симуляторах. Платформа может давать им короткие импульсы ускорения в разных направлениях. В то же время экран перед ними дает визуальное ощущение движения в виде точек света, проносящихся мимо них - визуальное ощущение, не похожее на прыжок со скоростью света в "Звездных войнах". В то время как при обучении пилотов физические и визуальные движения обычно согласовываются, Ангелаки использует эту установку, чтобы посмотреть, что делает мозг, когда они расходятся.

Правило Байеса позволяет догадаться об этом. Если рассматривать зрительные и вестибулярные сигналы как отдельные потоки данных об одном и том же внешнем мире, то математика вероятности дает простое средство для их объединения. Вместо одного члена вероятности - как в стандартном правиле Байеса - две вероятности (по одной от каждого чувства) умножаются вместе. Допустим, ваша задача - определить, движетесь ли вы влево или вправо. Чтобы рассчитать вероятность того, что вы действительно двигаетесь вправо, учитывая некоторые вестибулярные и зрительные сигналы, вы умножите вероятность того, что вы увидите этот зрительный сигнал, если будете двигаться вправо на вероятность того, что вы получите этот вестибулярный сигнал, если будете двигаться вправо. Чтобы завершить процесс, это значение затем умножается на предварительную вероятность движения вправо. То же самое можно сделать и для движения влево, после чего эти два показателя сравниваются.

Подобно тому как слух превращается в факт, когда вы слышите его от разных людей, в правиле Байеса получение одной и той же информации от нескольких органов чувств усиливает веру в эту информацию. Если движущаяся платформа и экран дисплея соответствуют правостороннему движению, то и визуальная, и вестибулярная вероятности будут высокими, а значит, и результат их перемножения будет выше. Это способствует уверенному выводу о правостороннем движении. Если же они противоречат друг другу - платформа движется вправо, а точки говорят, что влево, - то вестибулярное правдоподобие по-прежнему будет говорить о высокой вероятности движения вправо, а зрительное - о низкой. Умножение этих показателей приводит к среднему результату и лишь к умеренной уверенности в том или ином случае.

Но, как и в случае со слухами, надежность источника имеет значение. В своих экспериментах Ангелаки может снизить степень доверия испытуемых к тому или иному сенсорному входу. Чтобы сделать визуальные данные менее надежными, она просто делает их более беспорядочными. То есть вместо того, чтобы все точки двигались вместе, создавая сильное ощущение направленного движения, некоторые точки двигаются беспорядочно. Чем больше случайных точек, тем менее надежной становится визуальная информация.

Если посмотреть, как это происходит с вероятностями, мы увидим, что правило Байеса естественным образом определяет, насколько следует полагаться на источник в зависимости от его надежности. Если бы точки двигались совершенно случайно, визуальный сигнал не давал бы никакой информации о направлении движения. В этом случае вероятность того, что визуальный сигнал будет выдавать движение вправо, была бы равна вероятности того, что он будет выдавать движение влево. При равной вероятности с обеих сторон визуальный сигнал не будет влиять на решение в ту или иную сторону. Решение будет приниматься вестибулярными сигналами (и предварительными). Если же 90 % точек двигались случайным образом, а 10 % указывали на движение вправо, то вероятность того, что зрительный сигнал поддержит движение вправо, будет немного выше, чем вероятность того, что движение влево. Теперь зрительный сигнал действительно влияет на принятие решения - но лишь незначительно. По мере того как зрительный сигнал становится все более надежным, его вес в принятии решения растет. Таким образом, правило Байеса автоматически увеличивает долю источника в зависимости от степени его достоверности.

Исследуя выводы, которые люди делают о своем движении в этих экспериментах, Ангелаки и ее лаборатория еще раз показали, что в большинстве случаев люди ведут себя как хорошие байесовцы. Когда визуальные данные слабы, они больше полагаются на свою вестибулярную систему. Но есть одна оговорка: хотя визуальная информация становится более надежной, они все равно используют ее не так часто, как предсказывает правило Байеса. Вестибулярная информация постоянно переоценивается - эффект, обнаруженный и у обезьян. Это может быть результатом того, что визуальный вход всегда немного неоднозначен: если вы видите точки, движущиеся мимо, это может быть эффектом вашего собственного движения, или это могут быть просто движущиеся точки. Таким образом, вестибулярный сигнал в целом является более надежным источником и поэтому заслуживает большего внимания.

* * *

Как только байесовский подход к восприятию был обнародован, он быстро распространился по всем уголкам психологии. Подобно иллюзии волшебного глаза, если долго смотреть на любые данные, из них может выплыть структура правила Байеса. В результате в изучении разума появилось множество приор и вероятностей.

Как мы уже видели, правило Байеса было использовано для объяснения восприятия движения, переключения двусмысленных иллюзий, таких как кубик Неккера, уверенности и сочетания зрительных и вестибулярных сигналов. Оно также было адаптировано для объяснения того, как нас могут обмануть чревовещатели, нашего ощущения хода времени и нашей способности замечать аномалии. Ее можно даже растянуть и расширить, чтобы охватить такие задачи, как обучение двигательным навыкам, понимание языка и способность к обобщению. Такая объединяющая основа для описания столь значительной части умственной деятельности кажется безусловным успехом. Действительно, по словам философа ума Майкла Рескорла, байесовский подход - это "наша лучшая современная наука о восприятии".

Однако не все психологи могут считаться преданными учениками преподобного Байеса.

По мнению некоторых, теория, которая объясняет все, рискует не объяснить вообще ничего. Оборотной стороной гибкостибайесовского подхода является то, что его также можно обвинить в том, что у него слишком много свободных параметров. Свободные параметры модели - это все ее подвижные части - все варианты, которые исследователь может выбрать при ее использовании. Точно так же, как при достаточном количестве ударов даже самый плохой гольфист может в конце концов попасть мячом в чашку, при достаточном количестве свободных параметров любая модель может соответствовать любым данным. Например, если результаты нового эксперимента противоречат результатам старого, то модель с избыточными параметрами легко подстроится под них. Если заставить модель соответствовать данным так же просто, как банку внести изменения, ее успех не очень интересен. Модель, которая может сказать все, что угодно, никогда не может ошибаться. Как пишут психологи Джеффри Бауэрс и Колин Дэвис в своей критике байесовского подхода в 2012 году: "Эта способность точно описывать данные достается ценой фальсифицируемости".

Действительно, существует множество способов втиснуть части восприятия в байесовский пакет. Возьмем, к примеру, вычисление вероятности. Вычисление такой величины, как "вероятность увидеть свет длиной 670 нм при наличии красного цветка", требует определенных знаний и предположений о том, как свет отражается от различных материалов и как глаз его поглощает. Не обладая совершенным пониманием физического мира, создатель модели должен внести в нее некоторые собственные предположения. Поэтому они могут немного вилять этими предположениями, чтобы соответствовать данным. Еще одним источником выбора является функция принятия решений. Как мы видели ранее, вывод правила Байеса может быть сопоставлен с восприятием и принятием решения животным любым количеством способов. Этот вариант тоже способен сделать любое действие теоретически байесовским. И, конечно же, есть эти досадные приор.

Подобно тому, как в двадцатом веке они не давали покоя статистикам, в двадцать первом приоры стали вызовом для психологов. Если предположение об определенном приоритете - например, о том, что движение, скорее всего, будет медленным, - помогает объяснить психологические явления, это можно считать хорошим доказательством того, что мозг действительно использует этот приоритет. Но что, если другое явление лучше всего объясняется другим приоритетом - скажем, тем, который предполагает, что движение быстрое? Следует ли считать, что приоритеты в нашем сознании постоянны в зависимости от времени и задачи? Или они гибкие и изменчивые? И как мы можем это узнать?

В результате этих опасений некоторые исследователи занялись изучением свойств суждений. Французский когнитивист Паскаль Мамассиан работал над исследованием особенно распространенного из них: предположения о том, что свет приходит сверху. На протяжении более двух столетий эксперименты и иллюзии показали, что люди держат в уме это неявное убеждение об источнике освещения, когда разбираются с тенями в сцене. Это разумное предположение, учитывая расположение нашего основного источника света - солнца. Недавно в ходе экспериментов этот вывод был несколько изменен, и выяснилось, что люди на самом деле считают, что свет исходит сверху и немного слева. Мамассиан провел тесты, выявившие это предубеждение в лаборатории, но он также нашел более творческий способ его исследовать. Проанализировав 659 картин из парижского музея Лувр, он обнаружил, что в 84 процентах портретов и 67 процентах непортретных картин источник света действительно смещен в левую сторону. Возможно, художники предпочитают такое положение именно потому, что оно соответствует нашей интуиции, создавая более приятную и легко интерпретируемую картину.

Еще один открытый вопрос, связанный с примерами, - их происхождение. Приоры могут служить эффективным способом запечатления фактов о мире в нашем сознании; но передаются ли эти факты нам от предыдущих поколений через наши гены, или же мы сами развиваем их в течение жизни? Чтобы проверить это, в исследовании, проведенном в 1970 году, цыплят выращивали в условиях, когда весь свет падал снизу. Если бы предположение о том, что свет падает сверху, было усвоено в течение жизни, то у этих птиц его бы не было. Однако то, как животные взаимодействовали с визуальными стимулами, показало, что они все же считали, что свет должен быть сверху. Это говорит в пользу наследственного предположения.

Люди, конечно, не цыплята, и развитие нашей нервной системы может позволить нам быть немного более гибкими. Исследуя предубеждения детей разного возраста, психолог Джеймс Стоун в 2010 году обнаружил, что дети в возрасте четырех лет проявляют предубеждение к верхнему свету, хотя оно слабее, чем у взрослых. С годами это предубеждение неуклонно растет и достигает взрослой силы, что говорит о том, что частично врожденное предубеждение может быть откорректировано опытом. В поддержку этой гибкости в 2004 году команда из Великобритании и Германии показала, что наше представление о том, откуда должен исходить свет, может быть ослаблено. С помощью тренировки участники смогли изменить свои предварительные убеждения об источнике света на несколько градусов.

Выбор конкретного приоритета и его изучение с разных сторон в ходе множества экспериментов помогает проверить его как устойчивый и надежный эффект. Каждое такое предварительное условие становится менее свободным параметром в модели и более фиксированным.

Другой вопрос, который должны решить сторонники байесовской гипотезы мозга, - это "как?".

Хотя есть основания полагать, что мозг должен использовать правило Байеса, и есть доказательства того, что он это делает, вопрос о том, как это происходит в нейронах, остается оживленной областью исследований.

Когда речь заходит о суждениях, ученые ищут, в каком шкафу мозга хранятся эти кусочки фоновых знаний и как они попадают в нейронный процесс принятия решений. Согласно одной из гипотез, это простая игра с числами. Если группе нейронов поручено представлять что-то об окружающем мире - скажем, откуда доносится звук, - то каждый нейрон может иметь свое собственное предпочтительное местоположение. Это означает, что он больше всего реагирует на звук, исходящий оттуда. Если мозг определяет местоположение звука путем суммирования активности всех нейронов, предпочитающих одно и то же место, то места с большим количеством нейронов будут иметь преимущество. Таким образом, если заранее известно, что звук с большей вероятностью будет исходить из центральных мест, чем с периферии, это можно реализовать, просто увеличив количество нейронов, предпочитающих центр. Как выяснилось, в 2011 году нейробиологи Брайан Фишер и Хосе Луис Пенья обнаружили именно такую схему в мозге сов. Выявление нейронных признаков приоритетов таким образом может дать представление о том, откуда они берутся и как работают.

Теоретики строят - а экспериментаторы проверяют - все новые гипотезы о том, как правило Байеса работает в мозге. Существует множество способов, с помощью которых нейроны могут объединять вероятности и приоритеты. Эти различные гипотезы не следует рассматривать в соревновании, как и не следует ожидать, что в конце будет выявлен какой-то один победитель. Напротив, если правило Байеса может быть универсальным для отражения результатов восприятия, то физические основы этого правила могут иметь самые разные формы и стили.

Глава 11. Как вознаграждение руководит действиями.

Временные различия и обучение под креплением

Большую часть своей жизни Иван Петрович Павлов был ученым и имел одну страсть - пищеварение. Он начал свою научную деятельность в 1870 году с диссертации о нервах поджелудочной железы. В течение 10 лет, будучи профессором фармакологии в Санкт-Петербурге, он разрабатывал способы измерения желудочного сока у животных в процессе их жизнедеятельности, чтобы показать, как изменяется секреция различных органов в ответ на пищу или голод. А в 1904 году ему была присуждена Нобелевская премия "в знак признания его работ по физиологии пищеварения, благодаря которым знания о жизненно важных аспектах этого предмета были преобразованы и расширены".

Неудивительно, что, учитывая все его успехи в изучении кишечника, Павлов вошел в историю как одна из самых влиятельных фигур в психологии.

Переход Павлова к изучению разума был в некотором роде случайным. В ходе эксперимента, призванного измерить слюноотделение у собак в ответ на различные виды пищи, он заметил, что их рты разинуты еще до появления еды - достаточно было услышать звук шагов помощника, вносящего миски. В этом не было ничего необычного. Большая часть предыдущих работ Павлова была посвящена изучению влияния нервной системы на пищеварительную систему, но обычно это были более очевидные взаимодействия, такие как влияние запаха пищи на секрецию желудка - взаимодействия, которые, как можно предположить, были врожденными для животного. Слюнотечение при звуке шагов - это не реакция, жестко заложенная в генах. Этому нужно научиться.

Павлов был строгим и неумолимым ученым. Когда из-за публичных расстрелов, связанных с русской революцией, один из коллег опоздал на встречу, Павлов ответил: "Какая разница, какая революция, когда у вас есть эксперименты, которые нужно делать в лаборатории? Однако такая интенсивность способствовала кропотливой работе, и когда он решил продолжить наблюдения за слюноотделением, то сделал это тщательно и исчерпывающе.

Павлов неоднократно подавал собаке нейтральный сигнал - например, тиканье метронома или звук зуммера (но не колокольчика, как принято считать; Павлов полагался только на стимулы, которые можно было точно контролировать). За нейтральным сигналом следовала еда. После этих пар он наблюдал за тем, как сильно у собак выделяется слюна в ответ на один только сигнал. Он писал в характерных деталях: "Когда звуки бьющего метронома попадают на ухо, через девять секунд начинается выделение слюны, а в течение 45 секунд выделяется 11 капель".

Варьируя специфику этой процедуры, Павлов каталогизировал многие особенности процесса обучения. Он задавал такие вопросы, как: "Сколько пар "сигнал - пища" требуется для надежного обучения?" (около 20); "Имеет ли значение время между сигналом и пищей?" (да, сигнал должен начинаться до появления пищи, но не слишком сильно); "Должен ли сигнал быть нейтральным?" (нет, животные могли научиться выделять слюну в ответ на слегка негативные сигналы, например, на раздражение кожи); и многое другое.

Этот процесс - многократное сопряжение предстоящего вознаграждения с чем-то, обычно не связанным с ним, до тех пор, пока эти два фактора не становятся связанными - известен как классическое или (что неудивительно) "павловское" обусловливание, и он стал основным в ранних исследованиях в области психологии. Рецензенты книги Павлова, вышедшей в 1927 году и описывающей его методологию и результаты, назвали его работу "представляющей жизненный интерес для всех, кто изучает разум и мозг" и "замечательной как с точки зрения точности его методов, так и научной проницательности, проявившейся в масштабном характере его выводов".

Работы Павлова в конечном итоге стали основой одного из крупнейших течений в науке XX века - бихевиоризма. Согласно бихевиоризму, психологию следует определять не как изучение разума, а скорее как изучение поведения. Поэтому бихевиористы предпочитают описания наблюдаемой внешней активности любому теоретизированию о внутренней психической активности, такой как мысли, убеждения или эмоции. Для них поведение людей и животных может быть понято как сложный набор рефлексов - то есть сопоставлений между входными сигналами из мира и выходными сигналами, производимыми животным. Эксперименты по обусловливанию, такие как эксперимент Павлова, предложили чистый способ количественной оценки этих входов и выходов, что послужило толчком для развития бихевиоризма.

Поэтому после публикации его книги многие ученые стремились повторить и развить работу Павлова. Американский психолог Б. Ф. Скиннер, например, узнал о Павлове из рецензии на книгу известного писателя-фантаста Г. Г. Уэллса. Чтение этой статьи пробудило интерес Скиннера к психологии и направило его на путь становления ведущей фигурой бихевиористского движения, проведя бесчисленное количество точных исследований поведения крыс, голубей и людей.1

Когда в какой-либо области науки накапливается достаточно количественных данных, она в конце концов обращается к математическому моделированию, чтобы придать им смысл. Модели находят структуру в грудах цифр; они могут объединить разрозненные результаты и показать, как они возникают в результате единого процесса. В течение десятилетий после Павлова количество данных, получаемых в ходе поведенческих экспериментов по обучению, сделало их готовыми для моделирования. Как писал в 1950 году Уильям Эстес, выдающийся американский психолог, работавший над математикой обучения, данные по обучению "достаточно упорядочены и воспроизводимы, чтобы поддерживать точные количественные предсказания поведения".

В другой работе, опубликованной в 1951 году, говорится: "Среди отраслей психологии немногие так богаты количеством и разнообразием доступных данных, необходимых для построения моделей, как обучение". Эта работа, "Математическая модель простого обучения", была написана Робертом Бушем и Фредериком Мостеллером в Лаборатории социальных отношений Гарвардского университета. Буш был физиком, ставшим психологом, а Мостеллер - статистиком. Вместе, под влиянием работ Эстеса, они вывели формулу обучения ассоциациям между сигналами и вознаграждением, которая стала отправной точкой для целого ряда все более сложных моделей. В течение десятилетий обучение, которое отражают эти модели, стало известно как "обучение под креплением". Обучение с подкреплением - это объяснение того, как возникает сложное поведение, когда единственными сигналами обучения являются простые вознаграждения и наказания. Это, во многом, искусство учиться делать то, что нужно, без подсказок.

* * *

В своей модели Буш и Мостеллер сосредоточились на конкретной мере выученной ассоциации между сигналом и вознаграждением: вероятности реакции. Для собак Павлова это вероятность слюноотделения в ответ на звуковой сигнал. Буш и Мостеллер использовали простое уравнение, чтобы объяснить, как эта вероятность меняется каждый раз, когда награда дается - или не дается - после сигнала.

Допустим, вы берете любую случайную собаку с улицы (ходят слухи, что Павлов получал своих подопытных, воруя их на улицах). Вероятность того, что эта собака пустит слюну при звуке зуммера, равна нулю; у нее нет причин подозревать, что зуммер означает еду. Теперь вы нажимаете на зуммер, а затем даете собаке кусок мяса. Согласно модели Буша-Мостеллера, после этой встречи вероятность того, что собака пустит слюну в ответ на зуммер, возрастает (см. рис. 24). Точная величина этого увеличения зависит от параметра в формуле, называемого скоростью обучения. Скорость обучения контролирует скорость всего процесса. Если скорость обучения очень высока, одной пары может быть достаточно, чтобы закрепить в сознании собаки связь между звуковым сигналом и едой. Однако при более разумных показателях вероятность появления слюноотделения остается низкой после первого сопряжения - возможно, она достигает 10 процентов - и повышается каждый раз, когда за звуковым сигналом следует пища.

Однако независимо от значения скорости обучения, когда во второй раз после звукового сигнала подается пища, вероятность появления слюноотделения возрастает меньше, чем в первый раз. Так, если после первой пары она увеличилась с 0 до 10 процентов, то после второй пары она увеличится еще на девять процентных пунктов, до 19 процентов. И только на восемь процентных пунктов после третьего. Это говорит о том, что в модели Буша-Мостеллера (и в модели собак) изменение вероятности при каждом спаривании зависит от значения самой вероятности. Другими словами, обучение зависит от того, что уже усвоено.

С определенной точки зрения это интуитивно понятно. Нет ничего нового в том, чтобы каждый день видеть восход солнца. В той степени, в какой мы верим, что что-то произойдет, его фактическое наступление мало на нас влияет. Ожидаемое вознаграждение ничем не отличается от этого. Например, мы не изменим своего мнения о начальнике, если получим ту же самую премию к празднику, которую получали последние пять лет. А собаки меняют свою реакцию на звуковой сигнал только в той степени, в какой последующая еда отличается от того, что они ожидают. Изменить ожидания можно только нарушив их.

Рисунок 24

Это нарушение может быть как к лучшему, так и к худшему. Для собаки первый кусок мяса после "жужжания" - это приятный сюрприз, который сильно влияет на ее ожидания. Однако после многократных спариваний ожидания меняются, и слюнотечение при звуке зуммера становится второй натурой. В этот момент самое неприятное, что может произойти, - это услышать звуковой сигнал и не получить еду. Такое лишение привело бы к значительному снижению вероятности слюноотделения в будущем - такому же значительному, как и увеличение, произошедшее при первой паре. Эта обратная сторона обучения на основе вознаграждения, когда животное учится не связывать сигнал с вознаграждением, называется угасанием. С каждым предъявлением сигнала без ожидаемой награды процесс угасания разрушает ассоциацию, в итоге полностью уничтожая выученную реакцию. Буш и Мостеллер постарались показать, что их модель точно отражает этот процесс.

В то время как Буш и Мостеллер превращали информацию о слюноотделении в уравнения, другой человек на противоположном конце страны работал над применением математики для решения самых сложных проблем в бизнесе и промышленности. Глубокие и важные связи между этими работами не были осознаны еще несколько десятилетий.

* * *

Корпорация RAND - американский аналитический центр, основанный в 1948 году. Некоммерческое подразделение компании Douglas Aircraft Company, главной целью которого было расширение сотрудничества между наукой и военными, расцветшего в результате необходимости во время Второй мировой войны. Название корпорации является уместно общим (RAND буквально означает Research ANd Development)спектра исследовательских проектов, которыми она занимается. За годы своего существования сотрудники RAND внесли значительный вклад в такие области, как освоение космоса, экономика, вычислительная техника и даже внешние отношения.

Ричард Беллман работал в RAND в качестве математика-исследователя с 1952 по 1965 год. Будучи поклонником этого предмета еще в подростковом возрасте, Беллман неоднократно прерывал свой путь к профессии математика из-за Второй мировой войны. Сначала, чтобы поддержать военные действия, он оставил аспирантуру в Университете Джона Хопкинса, чтобы преподавать военную электронику в Университете Висконсина. Позже он перешел в Принстонский университет, где преподавал в рамках программы специализированной подготовки армии и занимался собственными исследованиями. В конце концов он защитил докторскую диссертацию в Принстоне, но не раньше, чем его призвали на работу в Лос-Аламос в качестве физика-теоретика для Манхэттенского проекта. Эти вторжения, похоже, не сильно повлияли на его карьеру. Уже через три года после войны, в возрасте всего 28 лет, он стал профессором Стэнфордского университета.

Уход из академического мира в RAND в 32 года стал, по словам Беллмана, разницей между "традиционным интеллектуалом или современным интеллектуалом, использующим результаты своих исследований для решения проблем современного общества". В RAND его математические навыки применялись для решения реальных проблем. К таким проблемам, как составление расписания приема пациентов, организация производственных линий, разработка долгосрочных инвестиционных стратегий или определение плана закупок для универмагов. Однако Беллману не нужно было ступать в больницу или на заводской цех, чтобы помочь в решении этих проблем. Все эти проблемы - и многие другие - объединены под одним абстрактным математическим зонтиком. И в глазах математика решить любую из них - значит решить их все.

Все эти проблемы объединяет то, что все они представляют собой "последовательные процессы принятия решений". В последовательном процессе принятия решений есть что-то, что нужно максимизировать: прием пациентов, производство товаров, получение денег, отправка заказов. И для этого можно предпринять различные шаги. Задача состоит в том, чтобы определить, какой набор шагов следует предпринять. Как достичь максимума? Как лучше всего подняться на гору?

Не имея особых наработок в этой области, Беллман обратился к проверенной стратегии в математике: он формализовал интуицию.2 Математический вывод, к которому он пришел, теперь известен как уравнение Беллмана, а простая интуиция, которую оно отражает, заключается в том, что лучший план действий - это тот, в котором все шаги являются наилучшими из возможных. Как бы очевидно это ни казалось, но, будучи сформулированным в математике, даже банальные утверждения могут иметь силу.

Чтобы понять, как Беллман использовал эту интуицию, нам нужно понять, как он сформулировал проблему. Сначала Беллман решил определить, насколько хорош тот или иной план, с точки зрения того, какое вознаграждение - деньги, виджеты, поставки и т. д. - он, скорее всего, принесет. Допустим, у вас есть план из пяти шагов. Общее вознаграждение - это сумма вознаграждений, которые вы получаете на каждом из этих пяти шагов. Но после того как вы сделали первый шаг, у вас теперь есть план из четырех шагов. Поэтому можно сказать, что общее вознаграждение по первоначальному пятишаговому плану - это вознаграждение, полученное за первый шаг, плюс общее вознаграждение по четырехшаговому плану. А общая награда от четырехшагового плана - это награда от первого шага плюс награда от результирующего трехшагового плана. И так далее, и так далее.

Определяя вознаграждение одного плана в терминах вознаграждения другого, Беллман сделал свое определение рекурсивным. Рекурсивный процесс - это процесс, который содержит сам себя. Рассмотрим, например, алфавитную систему. Если вы хотите составить список имен в алфавитном порядке, то начните с сортировки всех имен по первой букве. После этого вам нужно будет снова применить тот же процесс сортировки ко всем именам, начинающимся на одну и ту же букву, чтобы отсортировать их по второй букве, и так далее. Таким образом, алфавитная система становится рекурсивной.

Рекурсия - распространенный прием в математике и информатике отчасти потому, что рекурсивные определения гибкие: их можно сделать длинными или короткими, как это необходимо. Например, формулу для расчета общего вознаграждения по плану можно с одинаковым успехом применить как к плану из пяти шагов, так и к плану из 500 шагов. Рекурсия - это еще и концептуально простой способ добиться чего-то потенциально сложного. Подобно поворотам винтовой лестницы, каждый шаг в рекурсивном определении знаком, но не идентичен, и нам нужно только следовать по ним один за другим до конца.

В формулировке Беллмана есть еще две идеи, которые помогли сделать его стратегию эффективной для применения в реальных проблемах. Первая заключается в том, что он включил в свою стратегию тот весьма убедительный факт, что вознаграждение, которое вы получаете немедленно, стоит больше, чем вознаграждение, которое вы получаете позже. Для этого он ввел в рекурсивное определение коэффициент дисконтирования. Таким образом, если в первоначальной формуле вознаграждение от пятишагового плана было равно вознаграждению от первого шага плюс полное вознаграждение от четырехшагового плана, то в уравнении с дисконтированием оно будет равно вознаграждению от первого шага плюс, возможно, 80 процентов от вознаграждения от четырехшагового плана. Дисконтирование - это способ соизмерять немедленное удовлетворение с отложенным; это "птица в руке стоит двух в кустах", кодифицированное в математике.

Второе понимание было более концептуальным и более радикальным. Это был переход от фокусировки на вознаграждениях к фокусировке на ценностях.

Чтобы понять эту подмену, давайте рассмотрим владельца малого бизнеса - очень малого бизнеса. Анжела - бродяга в нью-йоркском метро. Она знает, что может играть на своей электрической скрипке в течение 20 минут на определенных станциях метро, прежде чем ее прогонят власти, и тогда ей не разрешат вернуться. На разных станциях, однако, выплачиваются разные суммы. Туристические районы могут быть очень прибыльными, в то время как остановки для коренных ньюйоркцев приносят гораздо меньше пожертвований. Она выходит из своего дома на Гринпойнт-авеню в Бруклине и хочет оказаться рядом с домом подруги на Бликер-стрит. Какой путь ей выбрать, чтобы заработать больше всего денег по дороге к месту назначения?

До сих пор мы замечали, что, начав с одной позиции и сделав шаг по плану, мы оказываемся в обстоятельствах, в целом схожих с теми, с которых начинали, - только начинаем мы с другой позиции и имеем другой план. В последовательном принятии решений различные позиции, через которые мы можем пройти, называются состояниями, а шаги в плане часто называют действиями. В случае с Анжелой состояния - это различные станции метро , на которых она может оказаться. Каждый раз, когда Анжела совершает действие (например, переходит со станции А на станцию Б), она оказывается в новом состоянии (станция Б), которое одновременно приносит ей определенное вознаграждение (количество пожертвований, которые получает ее игра) и предоставляет ей новый набор возможных действий (другие станции, на которые можно перейти). Таким образом, состояния определяют, какие действия доступны (например, вы не можете сразу отправиться с Гринпойнт-авеню на Таймс-сквер), а действия определяют, какими будут следующие состояния.

Это взаимодействие - когда действия, предпринятые в рамках плана, влияют на то, какие действия будут доступны в будущем, - является частью того, что делает последовательные процессы принятия решений такими сложными. Что сделал Беллман, так это взял это созвездие состояний, действий и вознаграждений и перевернул его с ног на голову. Вместо того чтобы говорить о вознаграждении, ожидаемом от серии действий, он сосредоточился на ценности, которую имеет любое данное состояние.

Ценность, в разговорном смысле, - понятие туманное. Оно вызывает мысли о деньгах и стоимости, а также о более глубоких понятиях смысла и пользы, которые бывает трудно определить. Уравнение Беллмана, однако, дает точное определение ценности. Используя ту же рекурсивную структуру, которая была представлена ранее, Беллман определил ценность состояния как вознаграждение, которое вы получаете в этом состоянии, плюс дисконтированная стоимость следующего состояния. Заметьте, в этом определении нет явного понятия плана; ценность определяется другими ценностями.

Тем не менее, это уравнение опирается на знание следующего состояния. Без плана, в котором указано, какое действие будет предпринято, как мы узнаем, каким будет следующее состояние? Именно здесь в игру вступает первоначальная интуиция - идея о том, что лучший план складывается из лучших действий. Чтобы рассчитать стоимость в следующем состоянии, достаточно предположить, что будет предпринято наилучшее возможное действие. А наилучшее возможное действие - это то, которое ведет к состоянию с наибольшей ценностью! Если говорить языком ценности, то сам план исчезает.

Как же это поможет Анжеле? Учитывая карту возможных станций метро (см. рис. 25) и соответствующие пожертвования, которые она ожидает получить от каждой из них, мы можем рассчитать "функцию ценности". Функция ценности - это просто ценность, связанная с каждым состоянием (в данном случае с каждой станцией). Мы можем рассчитать ее, начав с конца и работая в обратном направлении. Как только Анжела дойдет до Бликер-стрит, она сразу же отправится домой к своему другу и не будет заниматься букингом, поэтому вознаграждение, которое она получит в конечном пункте назначения, составит 0 долларов. Поскольку с этой точки не существует других состояний, ценность Бликер-стрит также равна нулю. Возвращаясь назад, можно вычислить ценности Юнион-сквер и 34-й улицы в терминах ожидаемого там вознаграждения и ценности Бликер-стрит. Этот процесс продолжается до тех пор, пока не будет вычислена стоимость каждой станции.