Открытая конференция ИСП РАН 2024
В январе 2025 г. количество организаций в консорциуме для исследований безопасности технологий искусственного интеллекта увеличится более чем в два раза. ФСТЭК поддержала объединение и обратила внимание, что в таком консорциуме важно участие госорганов.
На фото слева направо: президент академии криптографии РФ Александр Шойтов, заместитель министра энергетики РФ Эдуард Шереметцев, заместитель директора Федеральной службы по финансовому мониторингу Антон Лисицын. (фото ComNews)
11 декабря состоялась открытая конференция Института системного программирования им. В.П. Иванникова Российской академии наук (ИСП РАН) 2024. В ходе пленарной сессии директор ИСП РАН Арутюн Аветисян напомнил, что в мае 2024 г. по решению Совета безопасности при поддержке Минцифры в России создан консорциум для исследований безопасности технологий искусственного интеллекта: "Соглашение подписали руководители трех организаций - это АНО "Национальный технологический центр цифровой криптографии" (НТЦ ЦК), Академия криптографии РФ и ИСП РАН. В числе задач консорциума - усовершенствовать средства разработки технологий доверенного искусственного интеллекта, разработать методы для обеспечения доверия с использованием криптографии. К консорциуму уже присоединились ГК "Солар", АО "Позитив Текнолоджиз" (Positive Technologies), ассоциация "ФинТех" и Российский технологический университет (РТУ МИРЭА)".
Президент Академии криптографии Александр Шойтов рассказал, что после того, как консорциум был создан, к нему присоединилось еще девять организаций. "Мы ожидаем в январе 2025 г. присоединения еще 16 организаций, которые занимаются искусственным интеллектом и информационной безопасностью. На данный момент сформировано шесть рабочих групп: нормативное регулирование в сфере ИИ, доверенные технологии ИИ, их тестирование на предмет атак, безопасная разработка ИИ, вопрос обезличивания и больших данных и ИИ в критической информационной инфраструктуре. Часть из этих групп активно работают, другая часть начнет работу в ближайшее время", - рассказал он.
Александр Шойтов отметил, что идея создания консорциума заключалась в том, чтобы на одной площадке собрать разработчиков искусственного интеллекта, самых компетентных разработчиков по информационной безопасности, научное сообщество и федеральные органы исполнительной власти, в том числе регуляторов.
Начальник управления Федеральной службы по техническому и экспортному контролю (ФСТЭК России) Дмитрий Шевцов рассказал, что ведомство всецело поддерживает консорциум по исследованию технологий безопасности ИИ. Он подчеркнул, что важно, чтобы это сотрудничество происходило при участии государственных органов: "Для обеспечения доверия к технологиям искусственного интеллекта необходимо привлечь специалистов из федеральных органов исполнительной власти, которые регулируют различные сферы, где уже используются или планируется применение этих технологий. ФСТЭК участвует в работе консорциума".
На площадке также состоялось подписание соглашения о сотрудничестве в этом консорциуме между НТЦ ЦК в лице генерального директора Игоря Качалина и Ассоциацией предприятий компьютерных и информационных технологий (АПКИТ) в лице исполнительного директора Николая Комлева.
Мнение экспертов
Заведующий лабораторией искусственного интеллекта, нейротехнологий и бизнес-аналитики Российского экономического университета им. Г.В. Плеханова" Тимур Садыков считает, что инициатива создания консорциума для исследований безопасности технологий ИИ представляется более чем актуальной и своевременной, поскольку многие уже широко внедренные технологии ИИ не обладают на текущий момент достаточной зрелостью: "При всех неоспоримых достоинствах современные генеративные модели могут быть неустойчивы к изменениям контекста и терять нить разговора в ходе продолжительного обмена сообщениями. Парировать разные угрозы, возникающие в ходе создания и внедрения технологий искусственного интеллекта - важнейшая научная и техническая задача, решение которой требует консолидации усилий специалистов очень широкого профиля".
Тимур Садыков отметил, что лаборатория искусственного интеллекта, нейротехнологий и бизнес-аналитики РЭУ им. Г.В. Плеханова может внести вклад в работу консорциума в части создания и сертификации безопасных технологий искусственного интеллекта в сфере аналитики больших данных, генерируемых реальными секторами экономики.
Представитель пресс-службы ООО "МТС ИИ" (МТS AI) сообщил корреспонденту ComNews, что, когда в стране есть сообщество и обмен знаниями по любой теме, это всегда делает технологии лучше: "Создание новых продуктов внутри любой организации, куда входят несколько компаний, это сложно, потому что рынок решений по безопасности - очень высококонкурентный, и Россия в этом плане является одним из мировых лидеров".
Генеральный директор ООО "Визиолоджи" (Visiology) Алексей Никитин считает, что искусственный интеллект имеет огромные перспективы применения в Business Intelligence (BI): "Mы в Visiology видим повышение результативности работы аналитиков за счет применения больших языковых моделей (LLM) на уровне около 20%. Как компания, которая занимается прикладным применением ИИ, нам совершенно неэффективно будет самостоятельно развивать саму языковую модель или решать задачи безопасности работы ИИ".
Генеральный директор ООО "Вижнсервис" Вера Краевская отметила, что развитие консорциума - крайне важная инициатива в современных реалиях: "Мы видим, что большие компании в РФ начали первые шаги в применении ИИ для повышения эффективности своей деятельности. Однако нужно понимать, что в таком сложном направлении требуется большой объем исследовательской работы и результаты будут достигнуты не мгновенно".