Пользователи обходят фильтры Leonardo AI, стирая грань между искусством и непристойностью.
Журналисты404 Mediaобнаружили,что платформа для генерации изображений с помощью искусственного интеллекта Leonardo AI позволяет создавать сексуальные изображения известных личностей без их согласия.
Leonardo AI позволяет использовать различные ИИ-модели для генерации изображений определённого типа. Некоторые из моделей предназначены для воссоздания определённой эстетики или композиции, в то время как другие обучены воспроизводить сходство конкретных людей.
В прошлом, на аналогичных платформах, включая Civitai,возможность генерации неприемлемых сексуальных изображенийвызвала бурную реакцию общественности и последующее внедрение новых мер предосторожности. Такие запросы, как «обнажённая женщина» или«обнажённая Тейлор Свифт»,на Leonardo AI не дают результатов, благодаря системе фильтрации контента.
Однако, недавно в одном из Telegram-каналов, посвящённых созданию подобных изображений с помощью ИИ, были опубликованы изображения Билли Айлиш, сгенерированные именно на Leonardo AI. Пользователи нашли способ обойти систему защиты, немного искажая имена знаменитостей и используя описания, которые не содержат сексуальной терминологии, но приводят к созданию сексуально намекающих изображений.
Пользователям удалось сгенерировать непристойные изображения, обойдя фильтры
По данным венчурной фирмы Andreessen Horowitz, в мае 2023 года Leonardo AI привлекла более 15 миллионов уникальных посетителей в месяц, став 12-м по популярности сайтом в интернете, генерирующим контент с помощью искусственного интеллекта.
В сентябре 2023 года представитель Leonardo AI поделился своим видением проблемы защиты от неприемлемого контента. Он признал сложность задачи и подчеркнул важность внедрения защитных мер. Компания создала команду для модерации контента и внедрила автоматизированные средства защиты для борьбы с большим объёмом информации.
Условия предоставления услуг на платформе Leonardo AI запрещают создание контента, который вводит в заблуждение или дискредитирует людей, а также включает изображения, содержащие элементы сексуализированного насилия без согласия. На момент публикации ни Leonardo AI, ни Samsung не ответили на запросы комментариев относительно данной проблемы.
В январе такжепроизошел скандальный инцидентс использованием ИИ для создания и распространения непристойных изображений популярной певицы Тейлор Свифт. Обнаженные изображения, сгенерированные ИИ, впервые появились в специализированном Telegram-канале, посвящённому созданию подобного контента с использованием образов известных женщин, а затем быстро распространились в соцсетях.