Алгоритмы искусственного интеллекта (ИИ) и роботы становятся все более совершенными, демонстрируя возможности, отдаленно напоминающие человеческие. Растущее сходство между ИИ и людьми может в конечном итоге привести к тому, что пользователи будут приписывать этим системам человеческие чувства, переживания, мысли и ощущения, которые некоторые люди воспринимают как жуткие и сверхъестественные.
Карл Ф. Макдорман, заместитель декана по академическим вопросам и доцент Школы информатики, вычислительной техники и инженерии Ладди в Индиане, проводит обширные исследования, направленные на лучшее понимание того, что может заставить некоторых роботов и системы искусственного интеллекта нервировать.
Его последняя статья , опубликованная в журнале «Компьютеры в поведении человека: искусственные люди», рассматривает прошлые исследования и сообщает о результатах эксперимента, проверяющего недавнюю теорию, известную как «разумное восприятие», которая предполагает, что люди чувствуют жуткость, когда подвергаются воздействию роботов, очень похожих на людей. потому что они приписывают этим роботам разум.
«Многих жителей Запада идея машины с сознательным опытом тревожит», — сказал Макдорман Tech Xplore. «Этот дискомфорт распространяется и на неодушевленные объекты. Просматривая статью Грея и Вегнера , опубликованную в журнале Cognition в 2012 году, я посчитал, что эту тему стоит изучить, поскольку ее актуальность возросла с быстрым развитием ИИ, таких как ChatGPT и других крупных языковых моделей. (LLM)».
LLM — это сложные модели обработки естественного языка (NLP), которые могут научиться отвечать на запросы пользователей способами, поразительно отражающими то, как общаются люди. Хотя их ответы основаны на огромных объемах данных, которым они ранее обучались, язык, который они используют, и их способность генерировать контент, специфичный для запроса, могут облегчить их принятие за разумных существ.
В 2012 году два исследователя из Гарвардского университета и Университета Северной Каролины провели эксперименты, изучавшие так называемую «зловещую долину». Этот термин используется для описания пугающего характера роботов, обладающих человеческими качествами.
Когда Макдорман впервые прочитал эту статью в 2012 году, он скептически отнесся к тому, является ли «разумное восприятие» корнем «зловещей долины». Это вдохновило его на проведение новых исследований, изучающих его существование и степень, в которой роботы с человеческими характеристиками считаются жуткими.
«Несмотря на то, что другие исследователи повторяют выводы Грея и Вегнера, их использование одного и того же экспериментального метода и ошибочных предположений просто возвращает нас к первоначальным гипотезам», — объяснил Макдорман.
«По сути, они принимают выводы, которые стремятся установить. Зловещая долина — это связь между тем, насколько человечным выглядит искусственное существо, и нашими чувствами близости и жуткости к нему. Таким образом, если только причиной этих чувств не является наше восприятие объекта через наши пять чувств, эксперимент не о зловещей долине».
Первой целью недавней статьи Макдормана было выявить возможные недостатки прошлых экспериментов по «восприятию разума». В частности, его гипотеза заключалась в том, что эти эксперименты отделяют манипулирование экспериментальными условиями от появления системы искусственного интеллекта.
«Манипулирование в экспериментах по «разумному восприятию» — это всего лишь описание того, может ли сущность чувствовать и чувствовать», — сказал Макдорман. «Что может быть лучше, чтобы продемонстрировать это несоответствие, чем повторный анализ предыдущих экспериментов? Когда я это сделал, я обнаружил, что машины, описанные как способные чувствовать и чувствовать, были гораздо менее жуткими, когда они физически присутствовали или были представлены в видео или виртуальной реальности, чем когда они отсутствовали».
В дополнение к мета-регрессионному анализу предыдущих результатов Макдорман также разработал новый эксперимент, который можно использовать для проверки теории восприятия разума. Этот эксперимент предполагает убедить группу участников, которые не думают, что машины могут быть разумными, в том, что они на самом деле могут быть разумными, или наоборот, попросив их прочитать тексты и написать соответствующие эссе.
«Этот эксперимент позволяет нам сравнить, насколько жуткими выглядят одни и те же роботы, когда на них смотрит группа людей, которые приписывают им больше чувствительности, и группа, которая приписывает им меньшую чувствительность», — сказал Макдорман. «Если Грей и Вегнер (2012) были правы, группа, которая приписывает роботам большую разумность, также должна была бы найти роботов более жуткими, однако результаты показывают обратное».
В целом результаты метаанализа и эксперимента, проведенного Макдорманом, предполагают, что прошлые исследования, подтверждающие теорию восприятия разума, могут быть ошибочными. На самом деле исследователь получил противоположные результаты, предполагая, что люди, приписывающие роботам разум, не обязательно находят их более жуткими из-за их человеческого сходства.
«Зловещая долина — это область исследований, изобилующая теориями, пытающимися объяснить это явление», — сказал Макдорман. «Таких теорий существуют десятки, и я должен признать, что я один из главных виновников. Я часто вижу, что исследователи продвигают ту или иную теорию, и одна из проблем исследований в целом заключается в том, что положительные результаты с большей вероятностью будут получены». опубликованы, чем отрицательные результаты.
«То , что я редко наблюдал, за некоторыми исключениями , — это попытки фальсифицировать теории или гипотезы или, по крайней мере, сравнить их объяснительную силу».
Недавняя работа Макдормана — одна из первых, в которых критически исследуется восприятие разума и эксперименты, направленные на проверку этой теории. Его результаты показывают, что «зловещая долина» не связана с мысленным восприятием, а коренится в автоматических и стимулируемых процессах восприятия.
«Работа показывает, что основная причина «зловещей долины» не в приписывании машинам сознательного опыта», — сказал Макдорман. «Это также показывает, что теория восприятия разума выходит за рамки гуманоидных роботов и может быть применена к бестелесному искусственному интеллекту, такому как ChatGPT. Это положительный результат мета-регрессионного анализа 10 экспериментов, найденных в литературе».
Это недавнее исследование позволило получить новую интересную информацию о так называемой «зловещей долине» и связи между восприятием разума и тем, насколько жутким кажется робот . Это понимание способствует пониманию того, как люди воспринимают роботов, и может стать основой для разработки будущих систем искусственного интеллекта.
«Хотя атрибуции разума не являются основной причиной «жуткой долины», они являются частью истории», — добавил Макдорман. «Они могут быть актуальны в некоторых контекстах и ситуациях, но я не думаю, что приписывать разум машине, которая выглядит как человек, — это жутко. Вместо этого восприятие разума в машине, которая уже выглядит жутковато, делает ее еще более жуткой. Однако восприятие разума в машине, которая возникла из жуткой долины и выглядит почти как человек, это делает ее менее жуткой.
«Выяснение того, существует ли сильная поддержка этого предположения, является областью будущих исследований, которые предполагают использование более разнообразных и многочисленных стимулов».