Штучний інтелект і теорії змов: дослідження крайніх переконань
Вступ
Недавнє дослідження психолога з Корнельського університету Гордона Пеннікока показує, що прихильники теорій змови не лише надмірно впевнені у своїх розумових здібностях, але й серйозно перебільшують кількість людей, які поділяють їхні погляди. У статті, опублікованій в Журналі особистісної та соціальної психології, дослідження вказує на потужний ефект помилкового консенсусу, коли індивіди переоцінюють поширеність своїх думок. Ця стаття розширює початкові висновки, надає технічний контекст і досліджує, як втручання на основі штучного інтелекту можуть змінити боротьбу з дезінформацією.
Основні результати дослідження надмірної впевненості
- Вісім контрольованих експериментів з участю понад 4,000 дорослих американців досліджували продуктивність учасників у виконанні завдань у порівнянні з їхніми самооцінками.
- Учасники оцінювали маловідомі, частково закриті зображення, а потім оцінювали свою власну точність. Результати виконання не корелювали з рівнем впевненості — це ознака загальної надмірної впевненості.
- Хоча лише 12% вибірки підтримували класичні теорії змови (наприклад, фальшиве приземлення на Місяць, стрілянина під чужим прапором), віруючі вважали, що 93% американців погоджуються з ними.
- Ця різниця підкреслює екстремальний ефект помилкового консенсусу, який порівнянний або перевищує попередні показники в соціальній психології.
“Це може бути одним із найбільших ефектів помилкового консенсусу, які коли-небудь спостерігали.”
—Гордон Пеннікок, Корнельський університет
Методологічні інновації
Дослідження спростовує критику традиційного ефекту Даннінга-Крюгера, відокремлюючи завдання з оцінки навичок і самооцінки. У той час як ефект Даннінга-Крюгера змішує специфічну для сфери некомпетентність та метакогнітивні сліпі зони, команда Пеннікока розробила нейтральні до сфери завдання на вгадування:
- Визначення закритих зображень: Учасники вгадували об’єкти, приховані за фільтрами Гаусса.
- Класифікація випадкових патернів: Учасники ідентифікували випадкові форми, згенеровані за допомогою шуму Перліна.
Ці завдання забезпечили відсутність переваги в попередніх знаннях, ізолюючи базову впевненість як рису особистості. Калібрування впевненості вимірювалося щодо фактичної точності, що виявило коефіцієнт кореляції (r), близький до нуля — ознака глобальної надмірної впевненості.
Нейронні та когнітивні механізми
Чому деякі особи схильні до такої помилкової оцінки? Новітні дослідження нейровізуалізації вказують на те, що надмірна впевненість корелює з підвищеною активністю в стані спокою між досолатеральною префронтальною корою (DLPFC) та вентральною тегментною областю (VTA). Це фронто-мезолімбічне з’єднання може посилювати сигнали винагороди, коли підтверджуються власні переконання, роблячи суперечливі докази суб’єктивно неприємними.
Крім того, обчислювальні моделі оновлення переконань — на основі байєсівського висновку — показують, що прихильники теорій змови надають непропорційно низьку вагу (попередня вага λ ≪ 1) зовнішнім доказам, що підсилює упередження підтвердження. Вони функціонують з “міцними попередніми даними”, які ускладнюють коригування ймовірностей, затискаючи їх у ехо-камерах.
Втручання на основі ШІ та останні досягнення
У 2024 році команда Пеннікока співпрацювала з передовою моделлю великої мови (LLM), налаштованою на перевірку фактів і сократівський діалог. Чат-бот на базі ШІ взаємодіяв з користувачами в реальному часі, використовуючи знання з бази даних на 1,5 трильйона параметрів та краудсорсингові репозиторії фактів, такі як Snopes та Poynter. Основні технічні особливості:
- Динамічна синтеза контраргументів: Модель контекстуалізує спростування, використовуючи специфічні мовні патерни користувачів, виведені через ваги уваги трансформера.
- Адаптивне педагогічне моделювання: Вона послідовно ставить запитання, щоб поступово кидати виклик основним припущенням, слідуючи модифікованій таксономії Блума.
- Підтримка мультимодальності: Останні оновлення інтегрують модулі комп’ютерного зору для перевірки фактів зображень і мемів у соціальних мережах.
У контрольованих випробуваннях восьмимінутні розмови з ШІ зменшили силу переконань в середньому на 25%, а ефект тривав вісім тижнів після цього. Проте ті, хто мав найвищі оцінки надмірної впевненості, продемонстрували мінімальні зміни, що підкреслює межу ефективності цифрового переконання.
Вплив на алгоритми соціальних медіа
Контент теорій змови регулярно викликає високий рівень залучення на платформах, таких як X, Facebook і TikTok, частково через алгоритми рекомендацій, які максимізують час перебування. Ці алгоритми часто оптимізують коефіцієнт залучення (ER) через градієнтний підйом на основі сигналів переходу користувачів, ненавмисно підсилюючи крайні наративи. Запропоновані технічні заходи включають:
- Контекстуальне зниження: Зниження ранжування постів з ключовими словами, пов’язаними з теоріями змови, за допомогою класифікатора на основі BERT з >92% точністю.
- Накладки спростування в стрічці: Використання зв’язків з сутностями для прикріплення резюме перевірки фактів до спірних тверджень у реальному часі.
- Нагадування про калібрування на рівні користувача: Запрошення користувачів з високим рівнем залучення проходити тести самооцінки для виявлення потенційних упереджень надмірної впевненості.
Етичні та конфіденційні аспекти
Хоча втручання на основі ШІ демонструють обнадійливі результати, вони викликають занепокоєння щодо інформованої згоди та прозорості алгоритмів. Використання чат-ботів у приватних потоках даних — у особистих повідомленнях або закритих групах — вимагає надійних протоколів шифрування та механізмів згоди користувачів, що відповідають вимогам GDPR та CCPA. Крім того, відкритий доступ до ваг моделей і валідаційних наборів даних може сприяти незалежним аудитам, зменшуючи ризик прихованої пропаганди.
Перспективи для подальших досліджень та рекомендації з політики
Щоб подолати розрив між надмірною впевненістю та адаптацією до об’єктивної реальності, необхідні міждисциплінарні зусилля:
- Довгострокові когортні дослідження: Відстеження метакогнітивного калібрування та траєкторій переконань протягом кількох років з використанням носимих пристроїв EEG/ERP.
- Міждисциплінарні лабораторії: Об’єднання соціальних психологів, дата-сайентістів та етиків для спільного проектування втручань.
- Регуляторні рамки: Заохочення платформ до впровадження принципів “цифрової грамотності за дизайном”, інтегруючи модулі критичного мислення в користувацькі потоки.
Об’єднуючи когнітивну науку, інженерію ШІ та державну політику, ми можемо розробити рішення, які поважають індивідуальну автономію, зменшуючи поширення шкідливих теорій змови.
Висновок
Висновки Пеннікока висвітлюють прихований механізм дотримання теорій змови: стійка, рисова надмірна впевненість у поєднанні з величезним ефектом помилкового консенсусу. Хоча чат-боти на основі ШІ та алгоритмічні зміни пропонують часткове вирішення, глибша проблема полягає в повторному навчанні людей щодо їхніх власних епістемічних обмежень. В епоху стрімкого поширення дезінформації, розвиток метакогнітивної скромності може стати нашою найпотужнішою обороною.