Коротко:
- Почти 1100 участников оценивали одни и те же сценарии, где героем был либо человек, либо ИИ.
- Чем отзывчивее герой, тем выше оценки — и у людей, и у машин.
- Но даже самый отзывчивый ИИ показался менее сознательным, чем самый безучастный человек.
Чат-боты шутят, извиняются и «понимают» наше настроение. Кажется, еще чуть-чуть — и мы начнем считать их кем-то, а не чем-то. Психологи и философы из Мюнхенского университета Людвига-Максимилиана (LMU) проверили, так ли это.
Исследование опубликовано в журнале Cognition, подробности — в пресс-релизе LMU от 2 октября. Ведущий автор — Луи Лонжен с кафедры философии сознания, старшие авторы — нейробиолог Бахадор Бахрами и философ Офелия Деруа.
Утверждение
«Если ИИ ведет себя в точности как человек, люди начнут приписывать ему сознание». Эту мысль часто повторяют в спорах о чат-ботах и «живых» ассистентах.
Вердикт: скорее неправда
По крайней мере в этом эксперименте поведение работает, но не до конца. Отзывчивость повышает оценки, однако разрыв между человеком и машиной никуда не исчезает. Ярлык «ИИ» весит больше, чем любые поступки героя.
Доказательства
Участников разделили на две группы. Одна читала короткие описания искусственных агентов, другая — те же сценарии, но с людьми в главной роли. Герои по-разному реагировали на окружение: одни замечали звуки, другие — эмоции окружающих. Затем все оценивали, насколько герой осознает происходящее и насколько он сознателен.
С «осознанием» оценки для людей и ИИ оказались похожими: это слово люди связывают скорее с тем, что агент делает. А вот «сознание» несет оттенок внутреннего переживания — и здесь машинам отказывали упорно. Название статьи говорит само за себя: «ИИ не так сознателен, как люди». Авторы связывают это с эссенциализмом — склонностью думать, что у вещей есть скрытая «суть», которую поведение не меняет.
Ограничения: это одно исследование с текстовыми сценариями, а не живым общением с чат-ботом. В релизе не указано, из каких стран участники, и не приведены точные статистические показатели, поэтому выводы стоит считать предварительными.
Факт для разговора: Лонжен формулирует итог так: «Люди последовательно приписывают ИИ меньше сознания, чем людям». Самый «чуткий» ИИ в опыте проиграл самому безучастному человеку.
Почему это важно
Бахрами считает, что компании и журналисты часто приписывают ИИ намерения и моральные качества, которых у него нет. Слова вроде «ИИ понял» или «ИИ решил» незаметно стирают границу. Выбор языка влияет на то, насколько мы доверяем машине — от советов по работе до личных разговоров. Как тревога из-за ИИ меняет поведение людей в офисе, мы разбирали в материале о страхе потерять профессию.
Как проверить самому
- Перечитайте свою последнюю переписку о чат-боте. Сколько раз вы написали «он подумал», «он понял», «он обиделся»?
- Замените эти глаголы на нейтральные: «выдал ответ», «сгенерировал текст». Изменилось ли ощущение от разговора?
- Спросите себя: доверили бы вы тот же вопрос человеку с таким же ответом? Если да, а машине нет — вы, как и участники опыта, оцениваете ярлык, а не поведение.
Если общение с чат-ботами начинает заменять живые разговоры или усиливает тревогу, стоит обсудить это с психологом.
Фото: робот Robonaut 2 и астронавт в скафандре, архивное фото. NASA / Robert Markowitz, общественное достояние, commons.wikimedia.org.
