Доброго времени суток, уважаемые вастричане!
В этом посте я продолжаю в рамках своего коммитмента прочитать и перевести все статьи проекта https://consilienceproject.org/.
Мне не кажется, что конкретно этот материал обладает каким-то мощным потенциалом с точки зрения кардинального измнения перспективы на какие-то вещи, в отличии от двух предыдущих. Но было бы очень прикольно и интересно в комментариях попробовать попрактиковаться в том, о чем идет речь в самой статье - осмыслять факты более нюансно и комплексно.
Оригинал: How to Mislead with Facts
**Перед самой статьей хочу оговориться по поводу пары вещей:
- Несколько раз в предыдущих постах и комментариях (статьи я только переводил с помощью ЛЛМ, а затем самостоятельно вычитывал и редактировал) я на автомате использовал ИИ-шку для формирования описаний или каких-то отдельных отрывков. При этом я знал о том, что это вообще-то не комильфо и, по сути, нарушал этим принципы добросовестной коммуникации, которые я публиковал ранее.
Это меня побудило задуматься о том, как велик соблазн обмануться и сказать "Да ничего такого, это же просто описание" или "да это мне поможет лучше сформулировать мысль"... В общем, хочу оговориться, что мне это отражение было полезно и я честно обязуюсь больше принципиально не использовать LLM в написании постов или по крайней мере буду прозрачно это отмечать и обозначать.
- Я перевожу эти публикации не потому что я слепо и безоговорочно согласен со всем, что там написано. Однако при этом с большим уважением отношусь к авторам этого проекта и много ценности вижу для себя и других в этих материалах, если читать их вдумчиво и непредвзято.
Вы не обязаны соглашаться, но пожалуйста, будьте бережны в комментариях и выражайте свои мысли и чувства с уважением если не к авторам материалов, то ко мне как к живому человеку. Волей-неволей полные сарказма и обесценивания комментарии мне неприятно и обидно читать, даже если я всего лишь скромный переводчик.
- С помощью этих переводов я не занимаюсь саморекламой. Да, безусловно я буду рад, если что-то из моей интеллектуальной деятельности приведет к тому, что ко мне придут клиенты, но все-таки перевод и публикация этих статей отражает, в первую очередь, мое личное глубокое желание разбираться в этих вопросах и обогащать свое понимание. Переводы и публикация помогают мне более внимательно и вдумчиво вникать в материал. Сегодня узнал, что это называется "эффект протеже" - "психологический феномен в обучении, согласно которому лучший способ глубоко понять и запомнить материал — это объяснить или преподать его кому-то другому".
Спасибо и сори за длинное введение!)
Как вводить в заблуждение с помощью фактов
Подтверждённые факты могут использоваться для обоснования ошибочных выводов. Вот как мы можем положить этому конец.
Проверка фактов — фактчекинг — стала восприниматься как главный способ удостоверить правдивость информации в медиа. Это произошло в ответ на распространение самых разных интернет-субкультур, в значительной степени построенных на недостоверной информации. Пропаганда и недобросовестная коммуникация встречаются слишком часто, поэтому проверка фактов стала важной частью осмысления происходящего.
Хотя проверка фактов необходима, её зачастую недостаточно, чтобы увидеть полную картину. В условиях нарастающих культурных и информационных войн сами факты превратились в оружие.[1] Ни пропаганда, ни недобросовестная коммуникация не обязательно предполагают высказывание лжи.[2] Зачастую эффективнее вводить людей в заблуждение и распространять дезинформацию, стратегически используя подтверждённые факты. Способность критически оценивать злоупотребление фактами в публичной культуре и противодействовать ему — необходимая составляющая демократического образа жизни.
К сожалению, сегодня для институтов и отдельных людей из самых разных слоёв общества стало обычной практикой представлять стратегически отобранные и вырванные из контекста факты[3], помещая их в заранее заданную эмоциональную или этическую рамку.[4] Такое обращение с фактами позволяет склонить некоторых людей к выводам, которые прежде казались им неприемлемыми. Оно также предоставляет риторические аргументы тем, кто и без того склонен к подобным заключениям. И хотя такой подход вполне может выдержать добросовестную проверку фактчекеров, до полной правдивости ему всё равно далеко.
Подтверждённые факты собирают как боеприпасы для культурной войны, а не ради всестороннего понимания.
В современной цифровой медиасреде, которую принято называть эпохой «постправды», превращение фактов в оружие стало повсеместной практикой: оно опирается на микротаргетинг и оптимизируется ради психологического воздействия. Превращение некорректного обращения с фактами в норму угрожает подорвать ощущение людей, что они живут в общей реальности. Для некоторых это заходит настолько далеко, что ставит под сомнение саму возможность познания реальности.
Сегодня демократические формы правления подрываются некорректным обращением с «фактами» и их искажённым представлением. Чтобы остановить наше сползание к «культуре, слепой к фактам», необходимо по-новому подходить к тому, как мы обращаем внимание на «факты» и как говорим о них. Для тех, кто стремится улучшить состояние общего эпистемического пространства и справиться с вызовами XXI века, мешающими осмыслению действительности, не существует пути вперёд без фундаментального улучшения практик обращения с «фактами» в публичном дискурсе.[5]
Появляется всё больше литературы, посвящённой фактчекингу как практике работы медиа.[6][7][8][9] В эпистемологии и философии науки теперь развиваются отдельные направления, пытающиеся ответить на кризис «фактов» в публичной культуре. Активно развивающееся международное движение по проверке фактов приводит к созданию множества новых организаций, призванных удостоверять истинность информации. Подробности этих усилий описаны в других источниках.[10]
Несмотря на нередко искренние усилия, недавнее распространение фактчекинга не приводит к очевидному улучшению ситуации. Некоторые даже утверждают, что увеличение числа проверок фактов на самом деле усугубляет проблему. Как такое возможно?
Дело в том, что фактчекинг — проверка отдельных утверждений — никак не затрагивает три основных способа, которыми факты можно использовать для введения в заблуждение (см. блок ниже). Поскольку фактчекинг обеспечивает официальное подтверждение достоверности, он позволяет ещё легче использовать факты для обмана и распространения дезинформации. Это звучит парадоксально. Но чем более общепризнанным становится факт, тем сильнее его воздействие, когда он оказывается частью кампании, вводящей людей в заблуждение.
Три основных способа вводить в заблуждение с помощью фактов
1. Изъятие из контекста и помещение в новый контекст
Факт представляется без необходимого контекста либо в контексте, вводящем в заблуждение, чтобы у аудитории возникло ошибочное представление о его значении.Вам сообщают, что нечто является фактом (например, результаты исследования), но не рассказывают об использованных методах, погрешностях измерений, ограничениях наблюдений и так далее.
Обычно без понимания этих обстоятельств факт кажется важным и впечатляющим. Но если рассмотреть его с учётом возможных погрешностей измерений и неотъемлемых методологических ограничений, он предстанет менее определённым и потенциально спорным.
2. Избирательный отбор фактов и сужение фокуса
Несколько связанных между собой фактов (или даже целый набор данных) представляют сами по себе так, словно они дают исчерпывающее представление о рассматриваемом вопросе, хотя в действительности существуют и другие значимые факты, о которых умалчивают.Вам говорят, что огромное число исследований подтверждает одно и то же, но не упоминают исследования, посвящённые значимым альтернативным гипотезам. Обычно, пока вам неизвестны дополнительные сведения, складывается впечатление почти полного консенсуса; узнав больше, вы обнаруживаете обоснованные разногласия и то, что вопрос остаётся открытым.
3. Реинтерпретация и предварительное заданная рамка (pre-framing)
Совокупность подтверждённых фактов представляют так, словно их смысл уже однозначно определен заданной эмоциональной рамкой. При этом не допускается, что эти факты можно обоснованно интерпретировать и через другие рамки.Вам говорят — или настойчиво дают понять — что результаты определённых исследований следует воспринимать как «обнадёживающие», «прорывные», «пугающие», «разоблачительные» и тому подобное, не предлагая альтернативных рамок или точек зрения. Обычно эмоционально окрашенный и ценностно нагруженный язык создаёт впечатление, что из фактов неизбежно следуют только определённые выводы. Напротив, рассмотрение нескольких перспектив и рамок открывает больше способов осмыслить происходящее.
Кампания, вводящая в заблуждение с помощью фактов, строится на том или ином сочетании трёх описанных выше способов. Информационные кампании, которые остаются фактически достоверными, но при этом вводят аудиторию в заблуждение — характерная черта классической пропаганды, как мы показали в нашей недавней серии материалов о проблемах современной пропаганды.[11] На протяжении десятилетий индустрия связей с общественностью накапливала новые приёмы и усовершенствовала прежние.[12] Техники введения в заблуждение с помощью фактов постоянно развивались, в том числе с опорой на научные методы.
Факты превращаются в оружие политически заряженных дискуссий, где победа важнее точного представления более масштабных и сложных истин.
Сегодня стратегическое злоупотребление фактами становится обычной практикой рядовых пользователей социальных сетей. Многие публикуют в своих лентах только те факты, которые сами одобряют и которые подкрепляют их существующие убеждения и идеологии. Подтверждённые факты собирают как боеприпасы для культурной войны, а не ради всестороннего понимания. Затем микротаргетинг подстраивается под эти предпочтения и обеспечивает постоянный поток избирательно подобранных фактов. Возникающие в результате пузыри фильтров и алгоритмическую радикализацию мы рассмотрели в связанном с этой темой материале об информационной войне XXI века.[13]
Для распространённой в социальных сетях алгоритмической радикализации вовсе не нужны «фейковые новости». Поскольку даже факты можно использовать для введения в заблуждение, крайняя поляризация и превращение идеологии в определяющую основу идентичности возможны и тогда, когда люди взаимодействуют с фактически достоверной информацией. Это происходит, когда факты вырывают из контекста, избирательно отбирают и эмоционально нагружают. Факты превращаются в оружие политически заряженных дискуссий, где победа важнее точного представления более масштабных и сложных истин. Это обесценивает сами «факты» и публичный дискурс, основанный на высказывании фактических утверждений, а значит, подрывает необходимую составляющую полноценного общественного осмысления действительности.[14]
Но что произойдёт, если мы решим замедлиться и вместе поразмышлять над фактами? Что, если мы действительно захотим понять происходящее, принимая во внимание все факты, а также разные рамки и способы их интерпретации?
Соперничество в «проверке» фактов должно уступить место совместному поиску их взаимного понимания. Такой подход, в котором особая роль отводится образованию, предполагает, что люди искренне стремятся оценивать сложность фактических утверждений. Работая вместе, они участвуют в совместном процессе осмысления подразумеваемого значения и смысла рассматриваемых фактов — со всеми сопутствующими сложностями и нюансами.
Существуют четыре основных способа понимания фактов (см. блок 2). Чтобы понять факт, необходим процесс, который включает привычную проверку фактов, но не ограничивается ею: к ней добавляется рассмотрение контекста, репрезентативности и смысловой рамки.
Интерпретация факта предполагает ценности и суждения, которые не определяются самим фактом.
Четыре способа понимания фактов
1. Проверка и подтверждение достоверности
Если вы сталкиваетесь с фактическим утверждением, выясните, какие методы использовались для его обоснования. Разобравшись в происхождении факта, найдите наиболее ясный способ сформулировать то, что было установлено как достоверное. Читая в медиа о новых научных открытиях, стоит задавать себе такие вопросы:Приведён ли надёжный источник, подтверждающий этот факт? Подтверждён ли он несколькими независимыми источниками? Сформулирован ли он настолько ясно и близко к эмпирическим данным, насколько возможно?
2. Оговорки и контекст
Проверив факт, рассмотрите ограничения соответствующих наблюдений и методов, сравнивая их с другими возможными наблюдениями и методами. Уточнение, в каком контексте факт является истинным, позволяет глубже понять степень его достоверности и яснее увидеть, что именно известно, а что остаётся неизвестным. Обращаясь к самим исследованиям и свидетельствам, на которые ссылаются публикации в медиа, стоит задать следующие вопросы:Что важно знать об условиях, в которых была подтверждена достоверность этого факта? Каковы ограничения соответствующих методов, наблюдений и утверждений? В какой степени факт останется верным за пределами контекста, в котором он был подтверждён?
3. Репрезентативность и полнота
Поместив факт в контекст, расширьте этот контекст, чтобы охватить более широкое поле вопросов. Постарайтесь собрать как можно более полную сеть информации, включая все релевантные знания, напрямую влияющие на значение этого факта. Понимание факта требует репрезентативного представления обо всём состоянии знаний по связанным с ним вопросам. После изучения исследований, на которые ссылаются медиа, и тем самым проверки и контекстуализации рассматриваемого факта можно также спросить:Какие дополнительные факты необходимо принять во внимание, чтобы во всей полноте представить значение рассматриваемого факта? Какова полная совокупность смежных и связанных знаний по этому вопросу?
4. Перспективы и смысловые рамки
Наконец, получив репрезентативное представление о факте в его контексте, поразмышляйте о его значении, стараясь посмотреть на него с позиций нескольких релевантных концептуальных рамок и мировоззрений. Рассмотрение разных точек зрения и внимание к эмоциональной динамике осмысления факта позволяют более взвешенно подходить к коммуникации и образованию. За любым фактом стоят ценности, определяющие рамку его восприятия, поэтому необходимо спросить:В какие эмоциональные рамки могут помещать этот факт разные люди и насколько лично они могут его воспринимать? Каковы последствия этого факта с точки зрения различных релевантных политических идеологий? Какие существуют обоснованные точки зрения на значение этого факта?
Недостаточно просто верифицировать достоверность факта: необходимо поместить его в контекст и соотнести со всеми другими тесно связанными с ним фактами. Сюда относится и сбор сведений о методах, с помощью которых был установлен рассматриваемый факт. Проверка одного факта требует проверки множества других и стремления представить как можно более полную сеть взаимосвязанных истин. Эмоциональное воздействие любого факта всегда комплексно. Интерпретация факта предполагает ценности и суждения, которые не определяются самим фактом. Проверка фактической достоверности — лишь начало более широкого процесса формирования смысла, включающего соображения, которые невозможно свести к отдельным спорам о «фактах».
Наша задача — создавать новые процессы, позволяющие определять, что можно считать общей, общественно значимой и взаимно понятной «истиной».
Вводить в заблуждение с помощью фактов возможно только тогда, когда не уделяется внимания всем четырём способам, необходимым для их всестороннего понимания. Фактчекинг в его нынешнем виде обычно сосредоточен лишь на одном из них. Просветительские усилия, направленные на улучшение публичного дискурса, должны охватывать не только способы выявления обмана и лжи. Понимание факта требует гораздо большего, чем знание того, достоверен ли он. А понимание сложной реальности требует гораздо большего, чем согласие относительно некоторого набора фактов.
Суть этой статьи не в том, что фактчекинг плох, а в том, что он необходим, но неполон. В нынешнем виде его недостаточно, чтобы противостоять информационной войне — однако это не значит, что от него следует отказаться. Будущее нашего гражданского общества и публичной сферы зависит от радикального совершенствования существующих способов обращения с «фактами». Наша задача — создавать новые процессы, позволяющие определять, что можно считать общей, общественно значимой и взаимно понятной «истиной». Очевидно, что для этого мало просто следить за проверкой каждого факта.
Мы можем расширить подходы к обращению с фактами в публичном дискурсе, уделяя больше внимания сложности, нюансам и способности учитывать разные точки зрения. Для начала сайты, занимающиеся фактчекингом, и площадки для обсуждений могли бы опираться на предложенные выше модели, а не ограничиваться одной лишь «проверкой». Пока не будут предприняты подобные шаги по улучшению публичной культуры, вводить в заблуждение с помощью фактов будет столь же легко, как и манипулировать посредством обмана — а возможно, даже легче.
Когда речь идёт о будущем «фактов», ставки высоки. Как мы уже показали, некорректное обращение с фактами в конечном счёте разрушает способность общества осмыслять действительность, а разрушение этой способности в конечном счёте разрушает само общество. Время уходит. По мере накопления всё новых и новых «фактов» наша культура тем не менее всё дальше отдаляется от реальности. Информационная война сегодня систематически и стремительно подрывает возможность связного публичного дискурса, опирающегося на фактические утверждения. Это приводит к ситуации, когда политические кампании и кампании в области связей с общественностью всё более открыто и сознательно действуют вне истины. Конечно, «факты» по-прежнему важны — особенно если их достоверность официально подтверждена — ведь их можно использовать как боеприпасы. Но более масштабная и сложная истина теряется: с её утратой мирятся как с неизбежной жертвой культурной войны.
Подобная циничная культура постправды несовместима с демократическим образом жизни. Однако решение не в создании централизованных «комитетов истины». Такие комитеты служили бы официальным оправданием цензуры и превратились бы в высших арбитров общей социальной реальности. Открытые общества определяются, в частности, свободным распространением достоверных фактов в публичной культуре. Этим они отличаются от обществ, в которых информация проходит через узкие каналы, а индивидуальное суждение подчинено распоряжениям властей. Ответственность за добросовестность публичного дискурса, основанного на фактических утверждениях, должна быть распределена по всему гражданскому обществу. Движение, связанное с развивающейся сферой фактчекинга, должно стремиться не к сосредоточению власти, а к её распределению.
Не существует технического «исправления» или простого решения, способного улучшить общий характер и глубину публичного обсуждения фактов. И всё же цифровые технологии открывают возможности для чрезвычайно глубоких образовательных инициатив огромного масштаба. Те же технологии, которые сегодня используются, чтобы вводить нас в заблуждение с помощью фактов, можно применять для того, чтобы помогать нам складывать факты в целостную картину и помещать их в надлежащий контекст. Ставшее сегодня особенно важным взаимодействие цифровых технологий, образования и политики можно переустроить так, чтобы оно способствовало массовому обучению и взаимопониманию. И хотя эти факты ясны, как всегда, остаётся вопрос: что мы решим с ними делать?
Примечания и источники
Названия работ приведены на языке оригинала с переводом на русский. Ссылки сохранены из исходного документа.
- См. материалы Consilience Project: «It’s a MAD Information War» («Это информационная война по принципу взаимного гарантированного уничтожения»). The Consilience Project, 25 июля 2021 года. https://consilienceproject.org/its-a-mad-information-war/
- См. материалы Consilience Project: «The End of Propaganda» («Конец пропаганды»), 17 октября 2021 года. https://consilienceproject.org/the-end-of-propaganda/
- Joel Best. Damned Lies and Statistics: Untangling Numbers from the Media, Politicians, and Activists («Проклятая ложь и статистика: разбираясь в цифрах из медиа, выступлений политиков и активистов»). University of California Press, 2012 год.
- George Lakoff. Don’t Think of an Elephant!: Know Your Values and Frame the Debate («Не думай о слоне! Знай свои ценности и задавай рамку дискуссии»). Chelsea Green Publishing, 2014 год.
- См. материалы Consilience Project: «Democracy and the Epistemic Commons» («Демократия и общее эпистемическое пространство»), 27 февраля 2021 года, и «Challenges to Making Sense of the 21st Century» («Трудности осмысления XXI века»), 30 марта 2021 года. https://consilienceproject.org/democracy-and-the-epistemic-commons/ https://consilienceproject.org/challenges-to-making-sense-of-the-21st-century/
- Stephen J. Ceci и Wendy M. Williams. «The Psychology of Fact-Checking» («Психология проверки фактов»). Scientific American, 25 октября 2020 года. https://www.scientificamerican.com/article/the-psychology-of-fact-checking1/
- Dan M. Kahan, David A. Hoffman, Donald Braman, Danieli Evans и Jeffrey J. Rachlinski. «“They Saw a Protest”: Cognitive Illiberalism and the Speech-Conduct Distinction» («“Они увидели протест”: когнитивный иллиберализм и различие между высказыванием и действием»). Stanford Law Review, т. 64, № 4, май 2021 года. https://www.stanfordlawreview.org/print/article/they-saw-a-protest/
- «Checking the Fact-Checkers in 2008: Predicting Political Ad Scrutiny and Assessing Consistency» («Проверка проверяющих факты в 2008 году: прогнозирование пристального внимания к политической рекламе и оценка последовательности»). Journal of Political Marketing, т. 15, № 4, 2016 год. https://doi.org/10.1080/15377857.2014.959691
- Morgan Marietta, David C. Barker и Todd Bowser. «Fact-Checking Polarized Politics: Does the Fact-Check Industry Provide Consistent Guidance on Disputed Realities?» («Проверка фактов в условиях политической поляризации: даёт ли индустрия фактчекинга последовательные ориентиры в спорах о действительности?»). The Forum, т. 13, № 4, январь 2015 года. https://www.americanpressinstitute.org/wp-content/uploads/2016/02/Marietta-Barker-Bowser-2015-Forum.pdf
- См. эту подборку организаций, занимающихся проверкой фактов. The Consilience Project не проводил проверку этих организаций, а их включение в список не означает их одобрения. https://docs.google.com/spreadsheets/d/1mKwVdxSF-VdrvK2pnTAPJc90JWTerXa2GwPGPGf9fOA/edit?usp=sharing/
- См. материалы Consilience Project: «The End of Propaganda» («Конец пропаганды»), 17 октября 2021 года, и «WE DON’T MAKE PROPAGANDA! THEY DO!» («МЫ НЕ ЗАНИМАЕМСЯ ПРОПАГАНДОЙ! ЭТО ОНИ!»), 23 августа 2021 года. https://consilienceproject.org/the-end-of-propaganda/ https://consilienceproject.org/we-dont-make-propaganda-they-do/
- См. материалы Consilience Project: «Where Arguments Come From» («Откуда берутся аргументы»), 25 июня 2021 года. https://consilienceproject.org/where-arguments-come-from/
- См. материалы Consilience Project: «Social Media Enables Undue Influence» («Социальные сети создают возможности для неправомерного влияния»), 5 декабря 2021 года. https://consilienceproject.org/social-media-enables-undue-influence/
- См. материалы Consilience Project: «Democracy and the Epistemic Commons» («Демократия и общее эпистемическое пространство»), 27 февраля 2021 года. https://consilienceproject.org/democracy-and-the-epistemic-commons/