Поскольку область искусственного интеллекта развивается почти с головокружительной скоростью, мошенники теперь имеют доступ к инструментам, которые могут помочь им массово выполнять высокоразвитые атаки, предупреждает соучредитель охранной фирмы Web3 Quantstamp.
Выступая на Korea Blockchain Week, Ричард Ма из Quantstamp объяснил, что, хотя атаки социальной инженерии существуют уже некоторое время, искусственный интеллект помогает хакерам стать “намного более убедительными” и увеличить вероятность успеха их атак.
Чтобы проиллюстрировать, как выглядит новое поколение атак с использованием искусственного интеллекта, Ма вспомнил, что случилось с одним из клиентов Quantstamp, когда злоумышленник притворился техническим директором целевой фирмы.
“Он начал отправлять сообщения одному из других инженеров компании, говоря: ‘Эй, у нас чрезвычайная ситуация, вот что происходит", и вовлекал их в кучу разговоров, прежде чем просить их о чем-либо”, - сказал Ма.
По-видимому, растет число мошенников, ориентированных на конкретного человека, а не просто играющих в цифры ... используя искусственный интеллект и ChatGPT, мошенники могут быстро писать код, а новые технологии делают его более выгодным для злоумышленников, пока не будет создано программное обеспечение для противодействия.Пожилые люди являются целями— MoistenedTart.blsky.social (@MoistenedTart) 31 августа 2023
Ма сказал, что эти дополнительные шаги повышают уровень сложности атак, которые повышают вероятность того, что кто-то передаст важную информацию.
“До появления искусственного интеллекта [мошенники] могли просто попросить у вас подарочную карту или заплатить им биткоинами, потому что это срочно. Теперь они делают гораздо больше дополнительных шагов в разговоре заранее, чтобы установить законность".
В конечном счете, Ма сказал, что наиболее существенной угрозой, создаваемой сложным искусственным интеллектом, является сам масштаб, с которым могут быть выполнены эти типы атак.
Используя автоматизированные системы искусственного интеллекта, злоумышленники могут проводить атаки социальной инженерии и другие продвинутые виды мошенничества в тысячах различных организаций с очень небольшим участием человека.
Как мошенничество в AI Chat и ChatGPT влияет на рынки?Узнайте из ведущих Market Report Сэма Бурги (@forgeforth_) и Марселя Печмана (@noshitcoins) в нашем последнем эпизоде: https://t.co/wrfGQC0aO4 pic.twitter.com/kHH6hcisd9— Cointelegraph (@Cointelegraph) 27 февраля 2023
“В криптографии существует множество баз данных со всей контактной информацией ключевых людей из каждого проекта.
Как только хакеры получат к этому доступ, у них может быть искусственный интеллект, который по-разному отправляет сообщения всем этим людям ”, - сказал он.
“Довольно сложно обучить всю вашу компанию тому, чтобы она могла не реагировать на такие вещи”.
Хотя масштаб и сложность мошенничеств на базе искусственного интеллекта могут показаться пугающими, Ма дал несколько простых советов частным лицам и организациям, стремящимся защитить себя.
Наиболее важной защитной мерой является предотвращение отправки какой-либо конфиденциальной информации по электронной почте или текстовым сообщением.
Ма сказал, что организациям следует локализовать всю передачу важных данных в Slack или по другим внутренним каналам.
“Как правило, придерживайтесь внутреннего канала связи компании и перепроверяйте все”.
Наконец, Ма сказал, что компаниям следует инвестировать в антифишинговое программное обеспечение, которое автоматически фильтрует электронные письма от ботов и искусственного интеллекта.
Он сказал, что Quantstamp использует антифишинговое программное обеспечение от компании IronScales, которая предлагает услуги безопасности на основе электронной почты.
“Мы только в начале этой гонки вооружений, и будет все труднее отличать людей от убедительного искусственного интеллекта”.