Глава Минцифры РФ Максут Шадаев анонсировал создание в России базы данных с образцами голосов телефонных мошенников, чтобы операторы связи могли с помощью искусственного интеллекта выявлять звонки от их обладателей и разрывать такие соединения. Эксперты в сфере информационной безопасности идею поддерживают, но отмечают, что ИИ на стороне операторов предстоит научиться распознавать оригинальные голоса без фильтров.
В России может быть создана база биометрических данных — образцов голосов мошенников для борьбы с киберпреступлениями. Об этом сообщил министр цифрового развития, связи и массовых коммуникаций РФ Максут Шадаев на межотраслевой конференции «Безопасность клиента на первом месте».
По словам главы Минцифры, соответствующая инициатива может стать частью готовящегося сейчас большого пакета мер по антифроду, которые будут объединены в законопроект. «Среди этих мер, например, обсуждается, что мы должны в любом случае формировать базу биометрических образцов мошенников. Это достаточно серьезная мера», — рассказал министр.
Одновременно с этим планируется на законодательном уровне разрешить операторам связи распознавать звонки, которые совершаются мошенниками, при помощи технологий на базе искусственного интеллекта (ИИ). «И второе: мы хотим дать операторам связи возможность использовать ИИ для выявления в момент соединений попыток воздействия на абонентов», — сказал Максут Шадаев.
По словам министра, уже многие операторы связи применяют ИИ, экспериментируют с технологией и предлагают сервисы на основе нейросетей для защиты абонентов в качестве дополнительной услуги. «Нам кажется, что это должно быть обязательно. И в том числе, если, например, один раз биометрический образец голоса мошенника попал в единую базу, соответственно, это должно каждый раз в рамках анализа выявляться, и такие соединения должны блокироваться, разрываться», — отметил он.
Как напомнил главный эксперт компании «Лаборатория Касперского» Сергей Голованов, сейчас в России запрещено прослушивать чужие разговоры без решения суда и собирать биометрические данные без согласия человека.
Внедрение инициатив, подобных той, которую озвучил Максут Шадаев, потенциально позволит улучшить эффективность борьбы с телефонным мошенничеством, считает эксперт.
Отвечая на вопрос TelecomDaily о том, смогут ли мошенники использовать ИИ-технологии для изменения голоса и благодаря этому каждый раз говорить по-разному, Сергей Голованов пояснил: «Голосовые дипфейки в реальном времени плохо работают: в длительном телефонном разговоре, где надо поддерживать беседу, любая модификация голоса будет слышна».
Инициатива Минцифры полезная, отметил начальник отдела безопасности «СёрчИнформ» Алексей Дрозд, но он предупредил, что как только будет собрана база голосов, мошенники будут пытаться обходить защиту: с помощью подделки, клонирования, изменения голоса и т.п. «Например, нетрудно изменить голос программно — с помощью питч-коррекции (изменения тона/высоты), для этого давно есть инструменты, работающие в реальном времени, много как платных, так и бесплатных», — рассказал эксперт.
Тогда, по словам Алексея Дрозда, ИИ на стороне операторов связи предстоит научиться распознавать оригинальные голоса без фильтров, чтобы сопоставление по базе состоялось.
Более сложная схема — использовать клон голоса, когда с помощью ПО произнесенный человеком или набранный вручную текст звучит голосом другого лица - как правило, какой-нибудь знаменитости, но «украсть» таким образом можно и голос любого обычного гражданина, дополнил Алексей Дрозд. Это может создать проблемы операторам связи, так как из базы придется вычищать часто подделываемые голоса, чтобы к мошенникам не причислили их реальных обладателей, указал эксперт. Либо им придется повышать качество распознавания, чтобы ИИ замечал малейшие признаки подделки и блокировал звонок уже по ним, а не из-за совпадения голоса с образцом в базе. «Хорошая новость в том, что клонирование голосов все еще имеет эти явные признаки: огрехи в качестве, интонациях и т.п., так что распознать аудио-дипфейк реально. К тому же клонирование голосов остается требовательным к мощностям и недешевым, хотя в последнее время порог применения технологии снизился», — сообщил Алексей Дрозд.
Несмотря на будущие риски, идея Минцифры сработает, считает Алексей Дрозд. Задача создания базы — сделать телефонные атаки дорогими или неудобными в реализации, чтобы мошенникам стало экономически невыгодно ими заниматься, пояснил эксперт. «Само наличие новой препоны отсеет скамеров-одиночек и небольшие мошеннические группировки, а крупные организованные группы столкнутся, собственно, с технической стороной защиты. На старте атак может стать меньше. Однако в дальнейшем меру придется дорабатывать и усложнять: по мере того, как ее снова научатся обходить», — заключил Алексей Дрозд.
По расчетам Сбербанка, сумма похищенных телефонными мошенниками средств у россиян составляет около 250 млрд рублей в год.