В декабре на факультете инженерии и цифровых в МГУ им. адм. Г.И. Невельского состоялся очередной семинар на тему «Генеративный искусственный интеллект: применение, доверие, безопасность и этика» в рамках цикла «Технологии искусственного интеллекта и методы анализа больших данных» на кафедре автоматических и информационных систем факультета инженерии и цифровых технологий.
С докладом выступила кандидат технических наук, доцент Наталья Георгиевна Левченко, которая является одним из организаторов цикла. Другой организатор цикла кандидат технических наук, доцент Нелли Алексеевна Седова принимала участие в дискуссии по теме доклада. Активными и постоянными участниками семинаров цикла являются студенты старших курсов направления подготовки 09.03.01 Информатика и вычислительная техника, заведующий кафедрой автоматических и информационных систем Сергей Павлович Полоротов. В этот раз слушателями и участниками обсуждения были также преподаватели смежных кафедр и сотрудники Морского университета.
Автор доклада предложил к рассмотрению и обсуждению тему не только применения генеративного искусственного интеллекта в различных сферах жизнедеятельности человека, но и различные аспекты влияния этой революционной технологии, отметил преимущества и ограничения технологии. Также были рассмотрены проблемы доверия к генеративному искусственному интеллекту, такие как нарушение авторских прав, вызывающее вопросы об этических и правовых аспектах, распространение дезинформации, создающее серьезные проблемы для общества, фейковые изображения, видео и аудио, подрывающие достоверность контента. Были подняты вопросы безопасности управления рисками, которые требуют мер по защите от злоупотреблений, контролю качества и безопасности, защиты критически важных систем для выявления и предотвращения использования генеративного искусственного интеллекта в целях обмана, кражи и других злонамеренных действий. Применение генеративных технологий ставит ряд этических вопросов, таких как прозрачность при использовании ГИИ, справедливое распределение его преимуществ, защита данных и личной информации, а в целом требует ответственного отношения к этой мощной и быстро развивающейся технологии.
Доклад был заслушан с большим интересом. Особенно много вопросов, рассуждений, дискуссий было по темам безопасности, доверия и этики использования генеративного искусственного интеллекта в образовательном и научно-исследовательском процессах.
Следующий семинар цикла «Технологии искусственного интеллекта и методы анализа больших данных» планируется провести в феврале 2025 года. Объявление о семинаре будет размещено на сайте университета. Приглашаются все желающие.
В.А. Седов, и.о. декана факультета инженерии и цифровых технологий