Время на прочтение:2мин
Заседание Экспертного совета Главного радиочастотного центра состоялось в павильоне «Космонавтика и авиация» на ВДНХ 21 декабря.
Эксперты обсудили российские тренды искусственного интеллекта в 2023–2024 годах. Встреча открыла финал Международного технологического конкурса «Битва искусственных интеллектов»
С приветственным словом к зрителям обратился врио генерального директора Главного радиочастотного центра Руслан Нестеренко. «Искусственный интеллект поражает своими возможностями. Результаты решений с использованием ИИ-систем превосходят наши ожидания. Однако стоит помнить, что новая взрывная технология может таить в себе риски, которые выше, чем мы можем себе представить. Поэтому важно говорить об этом, обсуждать и находить решения, которые будут и эффективными, и безопасными», — сказал Нестеренко.
Советник генерального директора ГРЧЦ Евгения Рыжова обратила внимание на ряд трендов развития искусственного интеллекта, которые могут нести в себе различные угрозы. По словам эксперта, развитие возможностей нейросетей может привести к тому, что такой объем сгенерированной информации, в том числе противоправной, будет невозможно модерировать. В свою очередь, люди могут потерять интерес к восприятию таких объемов информации, особенно если пользователь не сможет отличать контент, написанный человеком, от сгенерированного нейросетью, не понимающей контекст. Помимо этого, ИИ может изменить экономический ландшафт сферы услуг, повысив уровень персонализации контента за счет его гиперкастомизации. «Генерация контента нейросетями по заданным параметрам способствует ранее недостижимому уровню персонализации. Уже сегодня существует большое количество решений, лежащих в открытом доступе, при помощи которых можно создать текст, изображение или видео, основываясь только на предпочтениях пользователя. Такой контент будет потребляться пользователями ежедневно и соответствовать их требованиям вне зависимости от этичности запросов», — рассказала Евгения Рыжова.
В завершение выступления представитель ГРЧЦ обратила внимание на угрозу, связанную с ростом качества контента, созданного нейросетями, из-за чего снижается возможность отличить его от материалов, созданных человеком. А также отметила, что генеративные алгоритмы, помимо создания медиаконтента, могут способствовать созданию новых формул химических элементов, химикатов, сплавов. Это также несет существенные угрозы, ведь такие технологии могут применяться не только во благо, но и в преступных целях, например, при создании запрещенных препаратов.
Руководитель группы по координации и мониторингу реализации федерального проекта «Искусственный интеллект» Национального центра развития ИИ при Правительстве РФ Юрий Сапожников считает, что один из трендов сегодня — увеличение потребности общества в этичных ИИ-решениях. Он состоит в том, что ИИ-системы будут придерживаться определенных принципов в отношении фундаментальных человеческих ценностей, например, таких как индивидуальные права. Помимо этого, он обратил внимание на то, что в стране необходимо выстраивать комплексную систему подготовки кадров, которая сможет обучить специалистов, способных создавать ИИ-модели на основе передовых научных достижений.
Первый заместитель руководителя Департамента информационных систем Министерства обороны Российской Федерации, руководитель общественного движения «Киберпатриот» Николай Лишин отметил, что для создания ИИ-моделей следует объединять усилия государства, коммерческих структур, силовых органов. Он подчеркнул, что важно избегать иностранных языковых моделей. «Необходимо создать свой аналог, который будет отражать наши этические нормы», — сказал Лишин.
Первый заместитель председателя Комиссии по общественной экспертизе законопроектов и иных нормативных актов Общественной палаты РФ, политолог Александр Асафов назвал смартфон в кармане человека «третьим полушарием мозга», а нейросети — «четвертым полушарием». По его мнению, технологии снижают способность людей мыслить критически. При работе с ИИ-системами важно проверять информацию на каждом этапе и анализировать, насколько она объективная, разумная, правильная, порекомендовал Асафов.
Технический директор компании «Аркод Технологии», внешний эксперт ФГУП «ГРЧЦ» по ИИ Роман Жуков сказал, что в стране необходимо создать цифровой мегарегулятор. С помощью мониторинга и централизации создания рекомендательных систем можно одновременно улучшить социально-демографические показатели, уменьшить напряженность в обществе, серьезно повысить уровень цифровой гигиены в интернете, увеличить общий уровень культуры, уверен эксперт.
