С помощью дипфейка можно испортить репутацию человека или шантажировать его, при этом закон во многих странах все еще не считает подобные изображения и видео чем-то противозаконным. Forbes Woman рассказывает, как искусственный интеллект превратился в один из инструментов сексуализированного насилия и с какими психологическими последствиями сталкиваются пострадавшие, большинство которых — женщины
Неэтичная нейросеть
Технология дипфейков — это значительный прорыв в области искусственного интеллекта и цифровой манипуляции. Она используется для создания высококачественного и вводящего в заблуждение медийного контента, такого как видео, аудиозаписи или изображения, при просмотре или прослушивании которого кажется, что реальные люди делают то, чего они на самом деле не делали.
Искусственный интеллект анализирует черты лица и мимику, походку и жесты, что позволяет создавать реалистичные подделки. Загрузив в программу всего лишь одно четкое изображение лица жертвы, можно наложить его на тело другого человека, и в результате получится убедительное видео. Это открывает беспрецедентные возможности для создания фальшивых новостей, манипулирования политическими событиями и нанесения ущерба репутации.
В 2023 году число доступных онлайн дипфейк-роликов приблизилось к 100 000, увеличившись по сравнению с 2019 годом на 550%, говорится в исследовании специализирующейся на кибербезопасности компании Home Security Heroes.
Взрыв популярности дипфейк-порнографии стал неизбежным следствием доступности этой технологии. Для создания реалистичного минутного ролика нейросети требуется менее получаса, при этом в интернете достаточно сервисов, которые делают это бесплатно. Как показывают исследования, проводившиеся в США, половина опрошенных мужчин смотрели дипфейк-порно хотя бы один раз, а три четверти тех, кто делает это регулярно, не видит в этом никакой проблемы.
Индустрия откровенного контента также не спешит бороться с генерирующими просмотры дипфейками — семь из 10 самых популярных порносайтов не блокируют такой контент, а месячный трафик специализирующихся на нем ресурсов достигает без малого 35 млн просмотров. «Цифры показывают, что подогреваемый любопытством спрос на эту категорию контента стабильно растет. При этом увеличивается влияние технологии дипфейков на формирование онлайн-предпочтений как у создателей, так и у потребителей», — констатируют в Home Security Heroes. Большинство пользователей смотрят дипфейк-порно, потому что им интересно, на что способны технологии в этой области. Кроме того, возможность сделать дипфейк с любым человеком позволяет персонализировать видео согласно своим предпочтениям.
При этом 99% жертв подобной цифровой фальсификации — женщины. «Мизогиния, отношение к женщине как к объекту, распространенные в культуре, в частности в онлайн-среде, служат почвой для того, чтобы авторы дипфейков верили в свое право создавать и распространять такие материалы. Так же, как, например, в случае с порноместью, они могут рассматривать свою деятельность как форму наказания тех, чьи изображения они используют», — объясняет мотивацию создателей дипфейк-порнографии Анна Богомолова, специалист центра «Сестры», оказывающего помощь пострадавшим от сексуализированного насилия.
От певиц до политиков
Решающую роль в выборе целей для создания непристойного дипфейк-контента играют профессия и публичность. Знаменитости, политики и инфлюенсеры гораздо чаще становятся жертвами этой технологии ввиду доступности цифровой информации о них и потенциального воздействия ложного или скандального контента на их карьеру и общественный статус.
Подавляющее большинство (94%) жертв дипфейк-порно — это представительницы индустрии развлечений, а самое большое распространение технология получила в Южной Корее. На певиц и актрис из этой страны приходится более половины всех дипфейк-порнороликов в мире. Южная Корея имеет долгую и сложную историю отношений как с порнографией, так и с цензурой. После периода строгих правил и общественных табу, связанных с откровенным контентом, с появлением интернета и увеличением доступности материалов для взрослых южнокорейское общество изменило отношение к порнографии. Глубоко укоренившаяся в Южной Корее культура почитания и подражания знаменитостям, поддерживаемая успехом K-pop (корейской поп-музыки) и дорам (телесериалов на корейском языке) создала благоприятную почву для распространения откровенных дипфейков — фанаты в том числе желают увидеть селебрити в сексуальном контексте.
Страдают от дипфейков не только корейские звезды. В начале 2024 года в соцсети X (ранее Twitter, заблокирована в России) завирусилось большое количество созданных искусственным интеллектом непристойных фото Тейлор Свифт. Снимки, на которых Свифт изображена в откровенных позах, набрали десятки миллионов просмотров, пока не были заблокированы платформой. Удаление фотографий, как сообщалось, заняло 17 часов, однако многие изображения по-прежнему доступны в социальных сетях. По словам руководителя агентства цифровых расследований Memetica Бена Декера, у медиакомпаний «нет эффективной методики противодействия такому контенту и его мониторинга».
Как и большинство крупных социальных платформ, X запрещает распространение «искусственно созданных, манипулятивных или вырванных из контекста медиа, которые могут ввести в заблуждение или запутать людей и причинить вред». Однако при этом X сократила команду модераторов и теперь полагается на автоматизированные системы и пользовательские жалобы. В Евросоюзе в настоящее время в отношении X проводится расследование из-за нового подхода к модерации контента.
В начале июля в центре скандала из-за публикации дипфейк-порнографии оказались британские женщины-политики. На популярный ресурс для взрослых были загружены фото с заместителем лидера Лейбористской партии Анджелой Рэйнер, министром образования Джиллиан Киган, лидером палаты общин Пенни Мордант и другими. Некоторые снимки — просто грубый фотошоп, где лицо политика наложено на обнаженное тело другого человека, но другие изображения выглядят как дипфейки, созданные ИИ. Многие из этих изображений оказались в сети еще несколько лет назад и к настоящему времени набрали сотни тысяч просмотров, писало издание The Guardian. Некоторые из политиков обратились в полицию.
Пострадавшая от публикации дипфейков член Консервативной партии Дехенна Дэвисон, комментируя ситуацию, заявила, что речь идет о грубом нарушении личных границ и вторжении в частную жизнь. Она добавила, что если правительства по всему миру не создадут надлежащую регуляторную базу для ИИ, то возникнут «серьезные проблемы». Другой британский политик Стелла Кризи призналась, что почувствовала отвращение: «Все это не имеет отношения к сексуальному удовольствию, речь идет о власти и контроле».
С авторами порноролика судится премьер-министр Италии Джорджа Мелони. Она требует взыскать с создателей ее дипфейка €100 000. Сумма, по словам главы кабинета министров, символическая, а цель иска — показать пример всем женщинам, пострадавшим от мужчин. Вырученные деньги Мелони планирует перечислить в фонд поддержки пострадавших от насилия.
Впрочем, жертвами дипфейков все чаще становятся и непубличные персоны. Так, в начале июля в Испании на год условно осудили школьников за создание и распространение обнаженных фотографий одноклассниц. Мать одной из пострадавших рассказала, что у девочек начались панические атаки. «Они не рассказывали о случившемся, так как боялись, что вину возложат на них самих», — поделилась она.
В похожей ситуации в прошлом году оказалась и известная в России стримерша Амина Tenderlybae Мирзоева. Более того, она призналась, что из-за завирусившегося в сети дипфейк-порно ей начали желать смерти дальние родственники из Азербайджана.
В конце мая стало известно, что в России хотят ввести уголовную ответственность за создание дипфейков. Предполагается, что виновным будет грозить штраф до 1,5 млн рублей или в размере дохода за период до двух лет либо лишение свободы на срок до семи лет (наказание будет зависеть от конкретной статьи — законодатели хотят дополнить разделы УК РФ о клевете, краже, мошенничестве и вымогательстве). Пока на рассмотрение в Думу документ еще не поступил. Пресс-секретарь президента Дмитрий Песков, комментируя эту новость, высказал мнение, что полностью побороть дипфейки невозможно, потенциальным жертвам опасной технологии он посоветовал «оставаться начеку».
Страх, тревога и чувство стыда
Но что же делать тем, кто «оставался начеку», но все равно стал жертвой дипфейка? По словам специалиста центра «Сестры» Анны Богомоловой, пострадавшие могут ощущать тревогу и страх, чувство утраты контроля над своей жизнью. Не исключены проблемы со сном и аппетитом, признаки депрессии и даже суицидальные мысли.
«Создание и распространение подобных материалов атакует сексуальную сферу человека. Этот вид насилия является серьезной угрозой репутации тех, против кого оно совершается. Когда мы говорим о различных формах сексуализированного насилия в киберпространстве, важно то, что злоумышленник может легко оставаться анонимным. В условиях, где пострадавшим неизвестно, кто именно совершает насилие, особенно страдает базовое доверие к людям и миру в целом. Контактируя с людьми, пострадавшие могут чувствовать себя дезориентированными и незащищенными, что само по себе может вынуждать их закрыться даже от самого близкого окружения. Не стоит забывать и о вполне обоснованном страхе столкнуться с осуждением, виктимблеймингом, что также способствует изоляции пострадавших», — отметила Богомолова.
Большой проблемой, по ее словам, также становится и то, что сексуализированное насилие в интернете имеет длящийся характер («все, что было опубликовано в сети, остается в сети»). «Даже если агрессор раскается, предпримет попытку удалить материалы и/или прекратить угрозы и шантаж, совсем не гарантировано то, что эти материалы не будут распространяться дальше и ими не воспользуется кто-то другой», — объясняет она.
Эффект от пережитого насилия для женщин может быть непредсказуемым и длительным, предупреждает Богомолова: «Женщины гораздо более уязвимы перед лицом различных форм сексуализированного насилия и значительно чаще подвержены ему на протяжении всей жизни. Гендерное неравенство как следствие патриархальной культуры создает такую среду, в которой угнетение нормализовано, и зачастую задача противостоять насилию лежит на плечах самих пострадавших. Из-за патриархальных установок в обществе веками формировалась стигма в отношении женщин, переживших те или иные формы насилия, влияние которой является как бы продолжением насилия. И не имеет значения, осознаем мы эту стигму или нет. Пережившие насилие женщины по-прежнему вынуждены сталкиваться с представлениями о том, что факт насилия, совершенного над ними другим человеком, делает их «испорченными», «грязными», «недостойными» в глазах сотрудников правоохранительной системы, медицинских работников и даже близкого окружения».
Жертвам дипфейков специалист рекомендует исходить из того, что любые реакции психики на ненормальные, травмирующие обстоятельства — естественны, потому что «мы не можем выбирать, каким образом реагировать на насилие».
«Главный принцип самопомощи — это забота о себе, своих чувствах и желаниях. Телу, нервной системе, психике, организму в целом нужно время на восстановление, важно дать его себе столько, сколько потребуется. Не всегда у переживших сексуализированное насилие возникает потребность обратиться за специализированной помощью. В некоторых случаях может быть вполне достаточно поддержки близких, семьи и друзей. В других случаях найти поддержку в близком окружении не представляется возможным, и тогда обращение к специалистам может стать одним из основных ресурсов», — заключает эксперт.