ИИ и когнитивные предубеждения

"Посредственность даже при быстродействии в 1000 миллионов операций в секунду все равно остается посредственностью". Грег Иган.

Теперь мы вступаем в новый период великих изобретений – искусственный интеллект, квантовые вычисления, синтетическая биология и автономные системы трансформируют не только отрасли, но и целые общественные структуры. Как и в случае с прошлыми технологическими революциями, эти сдвиги приносят огромные возможности, но также и глубокую нестабильность.

• ИИ разрушает рынки труда и меняет процесс принятия решений, отражая прошлые переходы от сельского хозяйства к промышленности.
• Энергетический переход меняет геополитическую мощь, подобно тому, как это происходило с нефтью и углем в предыдущие столетия.
• Информационные сети ускоряют пропаганду и социальную фрагментацию, напоминая о роли печатных СМИ в идеологических революциях прошлого.
• Короче говоря, мы не просто наблюдаем изменения; мы переживаем полномасштабную перестройку систем.

Изначально интернет представлялся — и широко праздновался — как революционный инструмент для демократизации знаний, устранения барьеров для доступа к информации и содействия глобальному взаимопониманию. Однако теперь мы сталкиваемся с реальностью, резко отличающейся от этого оптимистичного видения. Обилие информации, вместо того чтобы повышать ясность и истину, породило проблему «шума в сигнале», когда дезинформация, дезинформация и эмоционально заряженные повествования часто скрывают правду. Инструменты, предназначенные для навигации по этому плотному ландшафту — поисковые системы, алгоритмы социальных сетей, рекомендательные системы — часто оптимизированы в первую очередь для вовлеченности, а не точности или правдивости. Результатом является среда, в которой процветают сенсационность и разделяющий контент, формируя общественный дискурс и восприятие. Такая динамика усиливает эскалацию цикла обратной связи, в котором доминируют провокационные и поляризованные нарративы, подрывая рациональность и критическое мышление, которые изначально должна была развивать обильная информация. Наши врожденные когнитивные предубеждения делают нас уникально уязвимыми для манипуляций в насыщенной информационной среде. Знакомые предубеждения, такие как предвзятость подтверждения, эффект Даннинга-Крюгера и эффект обратного эффекта, всегда влияли на принятие решений человеком. Эффект Даннинга-Крюгера, в частности, подчеркивает, как люди с более низкой компетентностью часто демонстрируют самую высокую уверенность в своих убеждениях, что делает их особенно устойчивыми к корректирующей информации и, таким образом, легко поддающимися манипуляции.

Предвзятость подтверждения толкает людей к информационным эхо-камерам, которые усиливают существующие убеждения, в то время как племенной строй усиливает идеологические разногласия, объединяя людей с группами, разделяющими схожие взгляды. Эти идеологические разногласия намеренно эксплуатируются теми, кто использует целевые информационные кампании для манипулирования и усиления определенных нарративов. Эмоциональное убеждение еще больше усугубляет эту проблему, причем отрицательные эмоции, такие как страх и гнев, являются особенно мощными инструментами манипуляции, заставляя людей делиться и верить эмоционально заряженной дезинформации, даже если ей не хватает фактической точности.

Цифровое усиление когнитивных предубеждений привело к тревожной реальности, в которой дезинформация распространяется экспоненциально быстрее, чем достоверная информация. Это приводит к тому, что люди все больше укореняются в своих собственных убеждениях, сопротивляясь доказательствам или рациональному дискурсу.

Глубокие фейки , контент, созданный искусственным интеллектом, и микротаргетированная реклама теперь позволяют субъектам — как спонсируемым государством, так и корпорациям — создавать убедительные нарративы, которые являются персонализированными, точными и мощными. Как следствие, эти возможности могут значительно манипулировать общественным мнением, влиять на результаты выборов и даже подстрекать к общественному насилию.

Мы стали свидетелями этого на собственном опыте, наблюдая, как геополитические деятели используют скоординированные кампании по дезинформации на платформах социальных сетей, чтобы посеять раздор и подорвать общественное доверие. Одновременно корпорации внедряют передовые алгоритмы, которые тонко влияют на поведение потребителей, отдавая приоритет максимизации прибыли за счет прозрачности и этической целостности. Такая динамика подчеркивает неотложную системную проблему, влияющую не только на индивидуальные убеждения, но и на структуру общества в целом.

Источник.

https://frankdiana.net/2025/02/25/the-persuasion-paradox-reclaiming-truth-in-the-age-of-digital-persuasion/