Перевод статьи The human factor — why data is not enough to understand the world.

Статья из Financial Times. Автор, Gillian Tett - председатель редакционной коллегии FT и главный редактор в США. Ее книга ‘Anthro-Vision: How Anthropology Can Explain Business and Life’ опубликована 8 июня изданиями Penguin Random House в Великобритании и Simon & Schuster в США.

Итак,

Человеческий фактор - почему данных недостаточно, чтобы понять мир

Компании обращаются к антропологии, чтобы сбалансировать понимание алгоритмов и ИИ.

Пару лет назад сотрудники технологического инкубатора Google под названием Jigsaw совершили важный прорыв: они поняли, что, хотя их компания стала олицетворением мощи технологий, есть некоторые проблемы, которые одни компьютеры не могут решить. По крайней мере, без людей.

Jigsaw, борясь с проблемой онлайн-дезинформации, незаметно обратилась к антропологам. С тех пор эти социологи облетели Америку и Великобританию, чтобы сделать то, что никогда раньше не приходило в голову большинству технарей: встретиться лицом к лицу с предствителями теории заговора - или, по крайней мере, на видеоплатформах - и часами слушать их, наблюдая за ними с таким усердием антропологи могли бы нанять, если бы они столкнулись с отдаленным сообществом, скажем, в Папуа-Новой Гвинее.

«Алгоритмы - мощные инструменты. Но есть и другие подходы, которые могут помочь », - объясняет Ясмин Грин, директор по исследованиям и разработкам компании Jigsaw, которая находится в невероятно крутом футуристическом офисе в районе Челси на Манхэттене, недалеко от Хай-Лайн. Или, как выразился Дэн Кейзерлинг, главный операционный директор Jigsaw: «[Мы используем] методы поведенческой науки, чтобы сделать людей более устойчивыми к дезинформации».

Результаты были замечательными. Раньше такие группы, как антиваксы (anti-vaxxers), казались технарям настолько чуждыми, что их легко было презирать - и трудно было догадаться, что могло побудить их изменить свое мнение. Но когда команда Jigsaw вызвала антропологов из консалтинговой компании ReD Associates, которые с непредвзятым любопытством слушали людей, стало ясно, что многие из предыдущих предположений инженеров о причинно-следственных связях в киберпространстве были ошибочными.

Например, технари считали, что «разоблачающие» сайты должны выглядеть профессионально, поскольку именно это они ассоциировали с надежностью. Но сторонники теории заговора думали, что «умные» сайты выглядели так, как будто они были созданы элитой - это важно, если вы хотите опровергнуть такие теории.

Итак, в наши дни сотрудники Google пытаются совместить антропологию с психологией, исследованиями СМИ и, да, наукой о данных, чтобы создать инструменты, которые могли бы «привить» больше пользователей Интернета от опасной дезинформации. «Мы не можем сделать это только на основании того, что, как мы предполагаем, работает. Нам нужно сочувствие », - говорит Бет Голдберг, руководитель исследовательского проекта Jigsaw, которая прошла обучение в области политологии, но теперь также приобрела навыки антропологии.

Мужчина в футболке QAnon в Нью-Гэмпшире

Это решит проблему? К сожалению, не само по себе, учитывая глубоко укоренившиеся социальные корни проблемы. Также доза антропологии не устранит волшебным образом гнев, который многие люди испытывают по поводу могущества технологических гигантов и иногда безответственных способов их поведения. Но эксперимент уже дал одно преимущество: он помог некоторым техническим специалистам Google понять, чего они не понимают с помощью своих инструментов обработки данных - и почему техническим специалистам иногда нужны «нечеткие» или люди с качественным, а не количественным анализом. Как заметил соучредитель Twitter Джек Дорси, Кремниевая долина, вероятно, построила бы гораздо лучший мир Интернета и социальных сетей, если бы с самого начала наняла социологов вместе с компьютерными учеными.

Однако это не просто сказка о технологиях. Отнюдь не. На карту поставлена реальная проблема - туннельное зрение. Сегодня большинство профессий поощряют своих приверженцев использовать интеллектуальные инструменты, которые в лучшем случае аккуратно связаны, а в худшем - одномерны. Экономические модели, по определению, определяются их входными данными, а все остальное считается «внешним эффектом» (так раньше воспринимались проблемы изменения климата). Корпоративные бухгалтеры обучены относить вещи, не связанные напрямую с прибылями и убытками (например, гендерное соотношение), в сноски в счетах компании. Политические опросы или опросы потребителей часто используют заранее определенные вопросы.

Эти инструменты часто очень полезны, если не незаменимы. Но у них есть недостаток: если более широкий контекст за пределами этой экономической модели, компании, политического опроса или набора больших данных меняется, этот ограниченный инструмент и аккуратный количественный анализ могут не работать. Например, связывать всю свою веру только с экономической моделью - это все равно, что идти по темному лесу ночью с компасом и смотреть только на циферблат; каким бы блестящим ни был этот компас, если вы не посмотрите вверх и не воспользуетесь боковым зрением, вы войдете в дерево. Контекст имеет значение.

И именно здесь антропология может помочь, особенно когда мы пытаемся справиться с проблемами, вызванными пандемией, и задумываться о том, как мы могли бы жить и работать в будущем. В основе этих усилий лежит основная истина: даже в оцифрованном мире люди - не роботы, а великолепно противоречивые, сложные, многослойные существа, которые представляют собой поразительное разнообразие культур. Мы не можем позволить себе игнорировать это разнообразие, даже после года, в течение которого мы были изолированы в своих собственных домах и социальных племенах; меньше всего с учетом того факта, что глобальные связи делают нас всех непреднамеренно открытыми друг другу. Итак, в мире, сформированном одним ИИ, искусственным интеллектом, нам также нужен второй ИИ - антропологический интеллект.

Антропология может показаться неожиданным местом для поиска свежих идей 21 века. Слово происходит от антропоса, что по-гречески означает «человек», и одним из первых квазиантропологов был греческий ученый Геродот, который заинтересовался различными культурами племен в греко-персидских войнах V века до нашей эры и попытался проанализировать их.

Дисциплина в ее современной форме была основана викторианскими интеллектуалами XIX века, которые хотели изучать обширные колониальные объекты европейских империй. Поскольку эти интеллектуалы находились под сильным влиянием теории эволюции Чарльза Дарвина и были частью империалистической структуры власти, их анализ обычно был откровенно расистским - к непреходящему стыду современных антропологов. Организация, известная как Клуб каннибалов, основанная в Лондоне в 1863 году, олицетворяет это темное прошлое: хотя члены Клуба каннибалов заявляли, что они искали сущность «человечества», всматриваясь в так называемых «примитивов», это исследование было в первую очередь направлено на доказывая мнимое превосходство белых людей.

Однако в 20-м веке эта дисциплина претерпела два драматических интеллектуальных разворота: вместо того, чтобы способствовать имперскому расизму, она попыталась стать маяком антирасистской мысли; и вместо того, чтобы просто изучать якобы «экзотические» культуры в далеких странах, антропологи обратили внимание и на западные культуры.

Поводом для этого поворота стало то, что антропологи начали покидать безопасные башни из слоновой кости - или колониальные веранды - и поселиться среди людей, которых они изучали. Одним из первых был американский ученый, родившийся в Германии, Франц Боас. В 1880-х годах он случайно оказался среди инуитов на замерзшем севере, и это культурное погружение привело его к выводу, что «чем больше я вижу обычаев [инуитов], я обнаруживаю, что мы [европейцы] действительно не имеем права смотреть на них с презрением. . . [поскольку] мы, «высокообразованные» люди, относительно намного хуже ».

В то время это была шокирующая идея, и Боас годами пытался найти академическую должность в Нью-Йорке, прежде чем основал факультет антропологии в Колумбийском университете. Позже нацисты сожгли его книги. Но в 20 веке это видение «культурного релятивизма» - если использовать выражение, придуманное Маргарет Мид, одной из учениц Боаса, - распространилось. И сегодня, цитируя канадского антрополога Уэйда Дэвиса, им нравится рассматривать свое ремесло как «противоядие от нативизма, врага ненависти [и] вакцину понимания, терпимости и сострадания, которая может противостоять риторике демагогов». Или, как выразился шведский антрополог Ульф Ханнерц: «Разнообразие - это наш бизнес».

Второй поворот - изучение западных культур - возник из культурного релятивизма. Как только вы примете, что все культуры склонны казаться кому-то странными или «экзотическими», имеет смысл использовать одни и те же инструменты и в знакомых условиях. В конце концов, как заметил другой антрополог, Ральф Линтон: «Последнее, что заметит рыба, - это вода»; нам трудно оценить наши собственные культурные допущения. Знакомство создает слепые зоны, и посторонние могут видеть то, что игнорируют инсайдеры. Таким образом, цель антропологии - быть инсайдером-аутсайдером - иметь сочувствие к культуре и чувство критической отстраненности.

Эта точка зрения инсайдера-аутсайдера может быть бесценной - как я знаю по своей карьере. Тридцать лет назад я защитил докторскую диссертацию по антропологии в Кембриджском университете и провел год в горной деревне, занимаясь исследованиями в (тогдашней) Советской Республике Таджикистан. Впоследствии я стал журналистом и попытался перевернуть объектив, используя ту же методологию, чтобы взглянуть на миры, которые могут показаться более знакомыми читателям FT: кредитные деривативы, американская корпоративная жизнь, Белый дом, Кремниевая долина и мой собственный мир СМИ. . Часто это было откровенно. Сосредоточение внимания на ритуалах, символах, социальных границах и том, что антропологи называют «социальным молчанием» (то есть тем, о чем люди не говорят), помогло мне увидеть некоторые финансовые риски, которые возникали в кредитных деривативах до 2007 года, а также риск возникновения «techlash» Кремниевой долины.

Другие антропологи использовали одни и те же навыки в самых разных условиях, начиная от General Motors, JPMorgan, Japan Airlines, вооруженных сил США, британской службы здравоохранения, центрального банка Японии, американской ядерной промышленности и немецкой технологической сцены - не говоря уже о других. немного. И эти исследования предлагают ответы на широкий круг вопросов. Почему маски останавливают пандемии? Почему водители Uber ненавидят инструменты искусственного интеллекта? Почему потребители действительно покупают корм для собак? Почему финансистам сложно работать из дома?

Фотография, сделанная Джиллиан Тетт в горной деревне в Таджикистане, где она в течение года занималась докторскими исследованиями в области антропологии.

К сожалению, такие исследования вообще не известны вне дисциплины. И даже когда компании нанимают антропологов для советов, эти сообщения иногда не учитываются, особенно когда антропологи пытаются изучить «знакомое» (то есть, как работают западные компании), а не «странное» (то есть, как кто-то другой может себя вести). Руководителям Google легче принять идею использования антропологов для наблюдения за теоретиками заговора, чем повернуть объектив к себе. Властные элиты редко хотят смотреть на себя критически - и «проблема» антропологии, отмечает Люси Сучман, профессор антропологии в Ланкастерском университете, в том, что «это часто доставляет людям дискомфорт».

Но это также то, почему это необходимо. И было бы неплохо думать - или надеяться, - что пандемия повысила готовность к этому. В конце концов, шок от изоляции уже побудил политиков принять некоторые когда-то немыслимые идеи и показал корпоративным лидерам, почему им нужно горизонтальное, а не туннельное видение для оценки рисков. Действительно, один из способов интерпретации роста окружающей среды, социального и корпоративного управления и «заинтересованности» состоит в том, что многие корпоративные лидеры признают необходимость более широкого взгляда. Пандемия также показала нам, что в глобализированном мире опасно игнорировать или высмеивать другие культуры, когда мы все так тесно связаны. Нам нужно больше сочувствия к незнакомцам, чтобы выжить и процветать.

Кроме того, изоляция создала еще один тип сигнала для пробуждения: в прошлом году мы все были вынуждены пересмотреть повседневные ритуалы, социальные границы и неустановленные культурные допущения, которые мы раньше игнорировали. И когда мы вернемся к «нормальному» в следующем году (надеюсь), нам также нужно будет решить, какие культурные и социальные модели мы хотим сохранить в более оцифрованном мире.

Ответы еще могут нас удивить - даже (или особенно) среди технарей. Пару лет назад, например, я наблюдал, как группа компьютерных инженеров проводила встречу в сером отеле на Эдгвер-роуд в Лондоне, на которой обсуждалась возможность внедрения новых интернет-протоколов для противодействия взломам западных коммунальных предприятий, таких как энергетические системы.

В течение нескольких часов они обсуждали протокол защиты от взлома с громоздким названием «draft-rhrd-tls-tls13-visibility-01». Затем настал момент истины: седобородый инженер по имени Шон Тернер торжественно обратился к толпе: «Пожалуйста, напевайте сейчас, если вы поддерживаете внедрение [этого инструмента]».

Раздался коллективный гул, похожий на тибетское песнопение, а затем Тернер попросил тех, кто выступал против этого шага, тоже напевать. Раздался второй - гораздо громче - звук. «Итак, на данный момент нет единого мнения о принятии этого», - заявил он. Протокол заморозили.

Это может показаться странным; в конце концов, Инженерная группа Интернета - это группа, которая создала Интернет, и компьютерные фанаты, похоже, живут в «рациональном», основанном на математике мире. Но в последние годы IETF приняла этот «нечеткий» ритуал, потому что технарям нравится иметь возможность ощущать настроение всей группы с помощью гудения - и получать такую ​​многомерную информацию, которую не могут выявить простые голоса «да-нет».

Действительно, эти инженеры настолько привязаны к этому ритуалу, что были очень расстроены, когда потеряли способность гудеть вместе во время изоляции Covid-19 - и хотя они пытались воспроизвести то, что им нравилось в групповом жужжании с помощью компьютерного кода, они поняли, что это было невозможно.

Так что в какой-то момент, когда возобновятся личные встречи IETF, фанаты почти наверняка снова начнут гудеть вместе. Когда они это сделают, это - как исследование теоретиков заговора Пилой - станет еще одним напоминанием о фундаментальном и в конечном счете обнадеживающем факторе современной жизни: есть некоторые вещи, которые могут быть проанализированы, решены или предсказаны только людьми.