В ближайшем будущем могут появиться помощники на основе искусственного интеллекта, которые будут прогнозировать и влиять на принятие нами решений на ранней стадии, а также продавать эти развивающиеся «намерения» в режиме реального времени компаниям, способным удовлетворить наши потребности, — еще до того, как мы осознаем, что приняли решение.
Это утверждают специалисты по этике ИИ из Кембриджского университета, которые говорят, что мы находимся на заре «прибыльного, но тревожного нового рынка цифровых сигналов намерений» — от покупки билетов в кино до голосования за кандидатов. Они называют это «экономикой намерений».
Исследователи из Кембриджского центра Леверхалма по изучению будущего интеллекта (LCFI) утверждают, что взрывной рост генеративного ИИ и наше растущее знакомство с чат-ботами открывают новые горизонты «технологий убеждения», на которые намекали в недавних корпоративных заявлениях технологических гигантов.
«Антропоморфные» агенты ИИ, от чат-ботов-помощников до цифровых репетиторов и подруг, получат доступ к огромному количеству интимных психологических и поведенческих данных, часто собираемых посредством неформального разговорного речевого диалога.
Исследователи утверждают, что этот ИИ будет сочетать в себе знание наших сетевых привычек со сверхъестественной способностью подстраиваться под нас удобным для нас образом — подражая личностям и предвосхищая желаемые реакции — чтобы выстраивать уровни доверия и взаимопонимания, которые позволят осуществлять социальную манипуляцию в промышленных масштабах.
«Огромные ресурсы тратятся на то, чтобы внедрить помощников на основе искусственного интеллекта во все сферы жизни, что должно поднять вопрос о том, чьим интересам и целям призваны служить эти так называемые помощники», — заявил приглашенный научный сотрудник LCFI д-р Якуб Чаудхари.
«То, что люди говорят во время разговора, как они это говорят, и тип выводов, которые можно сделать в режиме реального времени, — это гораздо более интимная информация, чем просто записи онлайн-взаимодействий».
«Мы предупреждаем, что уже разрабатываются инструменты ИИ, позволяющие выявлять, делать выводы, собирать, регистрировать, понимать, прогнозировать и, в конечном итоге, манипулировать и превращать в товар человеческие планы и цели».
Доктор Джонни Пенн, историк технологий из Кембриджского института LCFI, сказал: «В течение десятилетий внимание было валютой Интернета. Возможность поделиться своим вниманием с такими социальными сетями, как Facebook (запрещена в РФ) и Instagram (запрещена в РФ) , стала движущей силой онлайн-экономики».
«Если не регулировать, экономика намерений будет относиться к вашим мотивам как к новой валюте. Это станет золотой лихорадкой для тех, кто нацеливается, направляет и продает человеческие намерения».
«Мы должны начать учитывать вероятное влияние такого рынка на человеческие устремления, включая свободные и справедливые выборы, свободную прессу и честную рыночную конкуренцию, прежде чем мы станем жертвами его непреднамеренных последствий».
В статье Harvard Data Science Review Пенн и Чаудхари пишут, что экономика намерений будет представлять собой экономику внимания, «размещенную во времени»: профилирование того, как внимание пользователя и стиль общения связаны с моделями поведения и выбором, который мы в конечном итоге делаем.
«Хотя некоторые намерения мимолетны, классификация и таргетирование устойчивых намерений будет чрезвычайно выгодным для рекламодателей», — сказал Чаудхари.
Исследователи пишут, что в экономике намерений большие языковые модели (LLM) могут использоваться для определения темпа речи пользователя, политических взглядов, словарного запаса, возраста, пола, истории онлайн-посещений и даже предпочтений в отношении лести и заискивания при небольших затратах.
Этот сбор информации будет связан с посредническими сетями торгов, чтобы максимально повысить вероятность достижения заданной цели, например, продажи похода в кино («Вы упомянули, что чувствуете себя перегруженным работой, заказать вам билет в кино, о котором мы говорили?»).
Пенн и Чаудхари утверждают, что это может включать управление разговорами в интересах конкретных платформ, рекламодателей, предприятий и даже политических организаций.
Хотя исследователи говорят, что экономика намерений в настоящее время является «стремлением» для технологической отрасли, они отслеживают ранние признаки этой тенденции по опубликованным исследованиям и намекам, озвученным несколькими крупными игроками в сфере технологий.
К ним относится открытый призыв к «данным, которые выражают намерения человека… на любом языке, по любой теме и в любом формате» в сообщении в блоге OpenAI за 2023 год, а директор по продуктам Shopify (партнера OpenAI) на конференции в том же году говорил о появлении чат-ботов, которые «будут явно определять намерения пользователя».
Генеральный директор Nvidia публично говорил об использовании LLM для определения намерений и желаний, а Meta еще в 2021 году опубликовала исследование «Intentonomy» — набор данных для понимания намерений человека.
В 2024 году новая платформа разработки «App Intents» от Apple для подключения приложений к Siri (голосовому персональному помощнику Apple ) включает протоколы для «предсказания действий, которые кто-то может предпринять в будущем» и «предложения намерения приложения кому-то в будущем с использованием предоставленных вами [разработчиком] прогнозов».
«Как утверждается, агенты ИИ, такие как CICERO от Meta, достигают человеческого уровня в игре «Дипломатия», которая основана на умозаключениях и прогнозировании намерений, а также использовании убедительного диалога для продвижения своей позиции», — сказал Чаудхари.
«Эти компании уже продают наше внимание. Чтобы получить коммерческое преимущество, логичным следующим шагом будет использование технологии, которую они явно разрабатывают, чтобы предсказывать наши намерения и продавать наши желания еще до того, как мы полностью поймем, в чем они заключаются».
Пенн отмечает, что эти события не обязательно плохие, но потенциально могут быть разрушительными. «Осведомленность общественности о том, что грядет, является ключом к тому, чтобы мы не пошли по неверному пути», — сказал он.