В последнее время социальные сети все чаще наполняются изображениями, созданными искусственным интеллектом. Некоторые из них настолько реалистичны, что их сложно отличить от настоящих фотографий. В ответ на растущую угрозу дипфейков и манипуляций с цифровым контентом, компания OpenAI разрабатывает новый инструмент, который поможет пользователям определить подлинность изображений.
Разработка OpenAI
Как сообщается в блоге компании, OpenAI предлагает методы, которые позволят отслеживать изображения, созданные с помощью генеративного ИИ, и подтверждать их искусственное происхождение. Новая технология включает в себя добавление на изображение невидимых "водяных знаков", которые не могут быть удалены или изменены без повреждения самого изображения.
Технические детали
Если изображение будет создано с использованием генератора DALL-E от OpenAI, новый инструмент сможет распознать его с точностью около 98%, даже если изображение будет искажено или изменено. Однако инструмент будет эффективно распознавать только 5-10% изображений, созданных другими генераторами, такими как Midjourney или Adobe Firefly.
Звуковые водяные знаки в Voice Engine
Компания OpenAI также работает над интеграцией звуковых водяных знаков в Voice Engine, экспериментальную модель голоса, которая находится в стадии закрытого тестирования. Цель компании — продолжать исследования в этом направлении, чтобы обеспечить высокий уровень прозрачности и безопасности аудиотехнологий.
Важность защиты от дезинформации
Хотя многие изображения, созданные ИИ, являются безобидными мемами или художественными проектами, существует растущая тенденция использования гиперреалистичных поддельных фотографий политиков, знаменитостей и обычных людей для распространения дезинформации. Это создает потенциал для быстрого и масштабного распространения ложной информации, что делает разработку таких инструментов крайне важной для обеспечения информационной безопасности.
OpenAI активно работает над улучшением этого инструмента, стремясь повысить его точность и универсальность. В будущем это может дать людям возможность легко проверять подлинность изображений, с которыми они сталкиваются в повседневной жизни, тем самым защищая их от возможных манипуляций и фальсификаций.
Разработка OpenAI может стать значимым шагом в борьбе с цифровыми подделками. Это не только поможет предотвратить распространение дезинформации, но и повысит общее доверие к цифровому контенту, который мы видим онлайн. Возможности новых технологий в области ИИ открывают новые горизонты для защиты и безопасности в цифровом мире.
© Comss.one.