Расширенный разум и тезис экстернализма

(note: это часть проекта "причесать и собрать все свои тексты в одном месте". Изначально это был доклад на московском lesswrong-митапе в апреле 2014, чуть расширил и переработал текст)

Привет, мои дорогие процессы оптимизации. Мы будем говорить о том,

где именно происходит человеческое мышление (или, проще говоря, речь о физическом нейрокорреляте разума).

Знаете ли вы, что люди думают не мозгом? Нет, это не шутка про мышление задницей, я сейчас честно и серьёзно. На самом деле люди думают всем телом.

Например, есть классический трюк с карандашом. Берут группу  добровольцев, просят их держать карандаш ртом так, чтобы губы образовывали улыбку. Вторую — так, чтобы выражение лица было наоборот недовольным. Эксперимент поставлен так, что люди не догадываются о том, что на самом деле на их лице какие-то эмоции. О чудо, первая группа, которая улыбалась, оценила качество показанного ей контента намного лучше второй, которая хмурилась. 

И получается, что с какой-то точки зрения, улыбка на лице — это штука, которая сначала записывается на лицо мозгом, а потом мозгом с лица считывается и обрабатывается. 

Выражения лица, язык тела, жестикуляция и прочее — это спонтанная утечка мыслительного процесса наружу, где он продолжается телом, и на эти беглые мысли можно влиять.

Например, я очень сильно подозреваю, что жестикуляция и вправду помогает думать. Вплоть до того, что я теперь хочу советовать людям, боящимся математики, порешать примеры, тыкая пальцами в символы и посмотреть, получится ли (про это были какие-то исследования). Имейте в виду, мало ли что :)  

После этого можно было бы решить, что люди думают телом. Но это опять не совсем так. 

Потому что на самом деле люди думают телом и окружением. Вспомните, например о том, что перемножать четырехзначные числа в уме практически невозможно, а при помощи листа бумаги и ручки это получается очень несложно.

Это утверждение может прозвучать тривиальным словоблудием, софизмом  из разряда "лысина — это такой цвет волос", "раз полупустое = полуполное,  то пустое = полное" или "атеизм — это религия". 

С одной стороны, это действительно скорее философская перспектива,  нежели что-то неожиданное и эмпирическое. С другой стороны, эту перспективу стоит прочувствовать, и из нее можно сделать несколько нетривиальных выводов, и именно поэтому я вам все это и рассказываю.

Я хочу начать с одного замечательного исследования. 

Конструкция из блоков, которая лежит в зоне сверху и слева — это образец. Участнику нужно скопировать образец в мастерскую (зону, которая внизу и слева), используя блоки из большой зоны справа. Цветные блоки перетаскиваются курсором.

Как решать эту задачу? Кажется, что логичнее всего было бы посмотреть на образец, запомнить цвет и позицию нужного блока, найти нужный блок на  складе, а потом перетащить его мышкой в нужное место. 

Что-то в духе "Ага, мне нужно взять красный блок и поставить его над зелёным. Где красный? Вот красный. Ага, ставим его под зелёным, это вот здесь".

Но на самом деле люди выполняли задачу не так. Если проследить за движением их зрачков, то становилось понятно, что на самом деле происходило что-то в духе "Ага, мне нужно взять красный блок. Где красный? Вот красный. Куда его ставить? Под зелёным. Ага, ставим его вот сюда", т.е. человек запоминал только один кусочек своей задачи: либо цвет, либо позицию.

Что происходило, если незаметно поменять цвет перетаскиваемого блока?

Во-первых, обычно никто этого не замечал. Во-вторых, люди тратили на задачу чуть больше времени. В-третьих, перекрашенный блок в итоге ставился в подходящее для него место, с учётом его нового цвета. 

Получается, что у человека было какое-то смутное представление о том, в какое место образца нужно было смотреть, и это всё. Такая вот стратегия экономии памяти: вывалить во внешний мир всё, что только можно, и этого не смущаться.

В своей статье авторы исследования прямым текстом говорили, что "перевод взгляда в другое место можно напрямую сравнить с изменением указателя на объект в памяти компьютера" ("Changing gaze is analogous to changing the memory reference in a silicon computer").

Можно привести очень простой пример, когда окружение непринужденно используется не для хранения информации, а для экономии вычислений: Тетрис.

Представьте,  что вы играете в Тетрис. Сверху падает L-блок, и панорама внизу похожа  на поле битвы. В этих условиях многие люди будут вращать детальку, чтобы было понятнее, куда она может встать, а куда — нет. 

А почему они это делают? Можно же повернуть детальку в уме. 

Потому что нужны мысленные усилия, а их жалко. (есть даже оценки времени; 100 мс на вращение детали на экране, 200 мс на нажатие кнопки, и порядка 1000 мс, если делать то же самое в уме). 

Поэтому мы просто вываливаем свои вычисления из мозга в окружение. 

Для людей это очень привычная и естественная стратегия мышления, которую они обычно не замечают. Её можно встретить в очень многих местах: например, люди сортируют свои карты при игре в дурака, хотя теоретически могли бы запомнить расположение всех карт.

Обдумав всё это, а также рассмотрев кучу мысленных экспериментов про людей-со-слабой-памятью-записывающих-всё-в-блокнот и нейроимпланты-которые-ускоряют-вращение-фигурок-Тетриса, Энди Кларк и Дэвид Чалмерс предлагают принцип эквивалентности: если единственное отличие процесса X от родных когнитивных процессов человека N состоит в том, что X происходит снаружи черепа N, то X стоит объявить частью родных когнитивных процессов N [1]. 

  

Мне хочется найти более запоминающееся название для этого принципа. Я называю его "тезисом экстернализма".

Перейдём к интересным выводам.

Моральные выводы

1) 

Если вам говорят "ну нельзя же так полагаться на свой смартфон", то не надо испытывать стыд. Не надо пытаться оправдываться. Правильная реакция — это недоумение. 

Если вы не помните, как звали того прикольного древнего грека с рычагами, которого убили при осаде Сиракуз, но помните запрос в гугл, по которому эта информация находится первой ссылкой, то вы ведёте себя так, как и завещала Мать-Природа. Для мозга совершенно естественно вываливать работу в окружение, и было бы очень странно, если бы эволюция построила бы мозг иначе.

А если вы стараетесь запомнить всё наизусть, чтобы не полагаться на техносферу — то вы на самом деле высокомерный наглец, дерзнувший бросить вызов естественному положению дел :)

2) 

Нехорошо переставлять значки на чужом рабочем столе, трогать без спросу чужую электронику, перевешивать календари и так далее. Просто потому, что в какой-то степени это то же самое, что и промывка мозгов, и промывка мозгов — это важный ответственный шаг, к которому следует относиться крайне серьёзно.

3) 

Очень странно говорить про то, что пользоваться какими-то внешними протезами "нечестно", хотя в нашей культуре принято так считать. 

Например, дисциплинированным человеком обычно считают человека, который в случае чего способен потратить очень много силы воли, а не человека, который организовал свою жизнь таким образом, чтобы максимально экономить силу воли и всё равно добиваться своих целей.

Точно также очень странно считать плохим человеком, например, расиста, который отлеживает свой расизм и сознательно корректирует своё поведение так, чтобы не выпускать его наружу. 

Скажем, он сознательно предпринимает какие-то усилия для того, чтобы увидеть в неграх живых людей, и поэтому он регулярно сверяется с чеклистом, в котором есть пункты "спросить у собеседника его любимое хобби" и "узнать, откуда он родом". Или, может быть, расист принимает какие-то медикаменты. Или регулярно посещает терапевта.

Про такого расиста можно сказать лишь то, что это замечательный, ответственный человек, в котором нет ничего дурного, и которому не стоит ничего стыдится.

Если мы не понимаем, как проводить границу между мозгом и окружением, то как можно проводить границу между разными частями собственного разума и делать после этого какие-то моральные выводы? Если мы решили, что бессмысленно говорить "ты без своего блокнотика козел", то говорить "ты без своего левого полушария козел" и подавно полная бредятина. 

Всегда нужно рассматривать человека в целом. 

Практические выводы

1) 

Окружение — очень важно.

Если вам плохо работается, возможно, вина не на вас, а на плохом контексте. Всерьёз подумайте о том, чтобы взять ноутбук и уйти с ним в библиотеку, потому что цуёку наритай.

Не засоряйте информационно ту среду, в которой вы живёте. Если есть возможность, то работайте в специально отведённых для этого местах, и в этих местах занимайтесь только работой.

(когда я писал этот текст, я лежал на кровати с ноутбуком. Ещё на кровати я сплю. Ещё у меня проблемы со сном. Думаю, что это не просто совпадение. Не делайте, как я. Я-то студент, а вы взрослые люди с квартирами: какое у вас оправдание?)

2) 

Близкие знакомства — это не только повод приятно провести время. С точки зрения экстернализма, это удвоение вычислительной мощности.

Ещё это сильный аргумент про важность взаимного доверия между людьми. С доверием банально пропускная способность канала выше!

Ну и можно пофилософствовать о том, что какие-то формы коллективной деятельности правильнее называть мышлением, а не общением.

3) 

Вопрос со звёздочкой, ответа на который я не знаю: а как теперь относиться к шпаргалкам на экзаменах?

Получается, что шпаргалки в каком-то роде естественны. А вот традиционная модель обучения, делающая упор на записывании разных фактов в мозг — не очень естественна. 

Я слышал про преподавателей физики, которые на экзамене писали на доске кучу формул, в которой была, например, E = mc^2 вместе со своим злым братом-близнецом, E=mc^3. Намеренно искажённые версии формул можно было опознать, если ты хорошо знаешь предмет, и у тебя есть какая-то интуиция.

Мне кажется, что за чем-то подобным будущее. Если у кого-то есть какие-то идеи, то мне было бы интересно их послушать.

Заключение

Итак, ещё раз: мозг настолько обожает вываливать вычисления в окружение, что было бы естественно считать некоторые внешние штуки частями его мыслей. С этой любовью бессмысленно бороться, и бессмысленно её осуждать. Используйте её!

------------------

Литература

Статья Ballard, Deictic codes for the embodiment of cognition

Статья David Kirsh и Paul Maglio: On Distinguishing Epistemic from Pragmatic Action

Книга Andy Clark, Supersizing The Mind (и его же статья Extended Mind в соавторстве с Chalmers)

[1] А ещё они приводят неполный (но интересный) список требований, которому должны удовлетворять ресурсы, имеющие право называться частью разума:
1) Обращение к ресурсу должно быть частым и типичным (например: не отвечать "не знаю", не проверив перед этим свой блокнот).
2) Необходимая информация добывается быстро и легко, почти сразу же после того, как она потребовалась.
3) Полученная информация автоматически принимается на веру в той же степени, как и информация из биологической памяти: нет никакой критической проверки, которой подвергаются мнения других людей или результаты поиска в интернете.
4) Но эта информация в какой-то момент проходила осознанную критическую проверку, и человек "положил её внутрь" ресурса именно потому, что он счёл её надёжной.
 
PS: 

Куда можно покопать дальше?

1) Есть две статьи, в которых прокрастинация и сила воли рассмотрены с точки зрения расширенного разума: Procrastination and Extended Will и

Mental Muscles and the Extended Will.

2) Есть книга "Антимозг", где утверждается что излишняя зависимость от электроники и интернета ведёт к разрушению жизни людей.

3) Хорошие паттерны использования метакортекса: смартфон и окружающие люди.

4) Можно рассказать про феномен зонда и границы телесности. Это интересно и немного трансгуманистично.

Возможно, когда-то у меня дойдут до этого руки.