Алгоритмы всё чаще решают, кому дать кредит, какую цену показать или чьё резюме пропустить дальше. Что происходит, когда такое решение кажется нам несправедливым? Исследование, опубликованное в Journal of Experimental Psychology: General, показывает: мы злимся на машину почти так же, как на человека, и готовы потратить деньги, чтобы её «наказать», хотя она ничего не почувствует.
Что изучали
Александр Энг (Азиатская школа бизнеса, Куала-Лумпур) и Кай Чи Ям (Национальный университет Сингапура) провели серию онлайн-экспериментов с участниками платформы Prolific. Основой служили экономические игры с небольшими ставками. Например, в «игре в ультиматум» нужно было поделить 50 пенсов: партнёр (человек или алгоритм) предлагал несправедливые 5 пенсов, и участник мог отказаться — тогда оба оставались ни с чем. Такой отказ — классический способ наказать обидчика за свой счёт.
Учёные измеряли «удовлетворение справедливостью» — чувство, что всё встало на свои места после наказания.
Что выяснили
- В пилотном исследовании (380 человек) злость на несправедливый алгоритм составила 3,12 балла из 5 — почти как на человека (2,91).
- Отказывались от несправедливого предложения алгоритма 57,8%, человека — 62,2%; разница незначима.
- В крупном предрегистрированном эксперименте (739 человек) алгоритм наказывали даже чаще: 71% против 65,4%. При этом участники считали, что алгоритм гораздо меньше способен чувствовать (1,86 против 3,20 балла).
- Наказавшие в целом испытывали больше удовлетворения справедливостью, чем принявшие несправедливое предложение. В одних экспериментах после наказания человека его было больше, чем после наказания машины, в других — разницы не было.
- В самом большом эксперименте (3684 человека) удовлетворение росло, если алгоритм после отказа «огорчался» или обещал впредь быть честным и признавал урок.
- Дополнительный эксперимент (1093 человека) показал перенос агрессии: те, кто наказал обидчика — человека или машину, — потом были чуть менее щедры к посторонним людям.
Что это значит
Чувство несправедливости включается автоматически, даже если обидчик — программа. Но наказать её «по-настоящему» нельзя, и чувство завершённости может так и не прийти. Авторы предлагают компаниям, использующим алгоритмы, продумывать, как система сообщает об ответственности: признавать ошибку, объяснять, что изменится, и, возможно, закреплять ответственность за людьми, которые создают и применяют алгоритм. Для нас самих полезно помнить: злость на бездушную систему понятна, но выместить её на окружающих — плохая идея. О том, почему мы не приписываем ИИ сознание, — в статье «ИИ ведёт себя как человек, но сознания мы ему не приписываем».
Ограничения
Эксперименты проводились в коротких играх с копеечными ставками и анонимными текстовыми партнёрами — реальный отказ в кредите может вызывать совсем другие реакции. Участники сами решали, наказывать или нет, поэтому разница в удовлетворении могла отражать то, кто именно выбирает наказание. Результаты о разнице в удовлетворении между машиной и человеком в разных экспериментах не совпали, а в одном из них мера наказания сработала не так, как задумывалось. Надёжность шкалы удовлетворения в крупнейшем эксперименте была невысокой.
Поделиться статьёй:
Источники
- Eng A., Yam K.C. Artificial intelligence and machines are capable of harm, but not of experiencing punishment. Journal of Experimental Psychology: General, 2026. https://doi.org/10.1037/xge0001930
- Обзор на PsyPost https://www.psypost.org/well-pay-to-get-revenge-on-an-algorithm-even-though-it-cant-feel-a-thing/
Материал подготовлен редакцией «Новости психологии» на основе опубликованных исследований и носит информационный характер. Он не заменяет консультацию специалиста.
Добавить комментарий