Искусственный интеллект и связанные с ним проблемы: в САФУ прошла лекция для преподавателей и сотрудников

2 апреля в IT-парке «Цифровая Арктика» Северного (Арктического) федерального университета состоялась лекция «Проблемы и этические вопросы использования ИИ в образовании и науке». Лекцию подготовила старший преподаватель кафедры высшей и прикладной математики Екатерина Латухина.
Екатерина Александровна познакомила преподавателей и сотрудников САФУ, пришедших на лекцию, с проблемами, появившимися благодаря созданию и использованию нейросетей. Среди них распространение недостоверной информации — так называемые «галлюцинации нейросетей», например, искаженные фотографии, на которых олени с лапками не-оленей, которые могут привести к неправильному формированию образа животного у детей. Особую опасность представляют искаженные фото и тексты, связанные с медициной и лекарственными препаратами. А преподаватели отметили, что студенты уже приносят тексты с недостоверной информацией, зараженные «галлюцинациями нейросетей», при этом сами студенты утверждают, что при выполнении работы искусственным интеллектом не пользовались. Екатерина Александровна предупредила собравшихся, что в этом году ожидается большое количество работ студентов, созданных с помощью искусственного интеллекта.
Далее участники мероприятия подробно познакомились с порядком работы системы «Антиплагиат» и признаками текстов, созданных с помощью нейросетей. Это упомянутые выше «галлюцинации», недостоверные ссылки на источники, подозрительно корректный текст, ошибки в построении текста, например, коверкание терминов, много «воды», эффект «рыбки Дори», когда нейросеть забыла, о чем писала в предыдущем предложении. Наличие данных признаков не является прямым доказательством использования нейросетей, но служит поводом отправить студента исправлять текст.
Преподаватели и сотрудники получили рекомендации и советы по работе с текстами и нейросетями, а также следующее напоминание от компании «Антиплагиат»:
«Система „Антиплагиат“ не способна ни доказать, ни опровергнуть самостоятельность написания текста. Ответственность несет эксперт, проверяющий работу».
Отдельным вопросом стоит этика использования искусственного интеллекта. Количество скандалов, связанных с законностью сбора персональных данных и обучением нейросетей на материалах художников, не дававших согласия на использование своих произведений, растет с каждым днем. А в Сан-Франциско уже ввели полный запрет на распознавание лиц.
Серой зоной остается вопрос авторского права на произведения, созданные с помощью нейросетей. С одной стороны, программное обеспечение охраняется законом как литературное произведение. С другой стороны, без постоянного копирования чужого кода сфера IT не развивалась бы с такой скоростью. Кто является автором картинки, созданной с помощью нейросети? Согласно лицензионному соглашению, это создатель нейросети, а не создатель картинки. А кто тогда отвечает за преступление, совершенное с помощью нейросетей?
Искусственной интеллект развивается быстрее, чем человек может дать ответ на появляющиеся вопросы.