На X Банковской юридической конференции 19 декабря прошла концептуальная дискуссия о регулировании финансовых технологий, прежде всего искусственного интеллекта и оборота персональных данных. Модератором выступил президент Ассоциации банков России Анатолий Козлачков, экспертными оценками поделились член Совета при Президенте РФ по развитию гражданского общества и правам человека Игорь Ашманов и к.ю.н., научный руководитель факультета права НИУ «Высшая школа экономики» Антон Иванов.
Президент Ассоциации банков России Анатолий Козлачков предложил участникам дискуссии поделиться своими взглядами на риски использования искусственного интеллекта в общественных отношениях, а также посмотреть на европейскую модель работы с персональными данными. Он напомнил, что европейский подход к ИИ базируется на запрете передавать искусственному интеллекту право принимать решения за человека. При этом технология, соприкасаясь с социумом, может выступать только в качестве советника.
Член Совета при Президенте РФ по развитию гражданского общества и правам человека Игорь Ашманов выступил за введение полноценного регулирования искусственного интеллекта. Он отметил, что сейчас у ИИ нет прямого доступа к реальной действительности, но в США всерьез рассматривается возможность дать ему "приводные ремни к реальности" - подключить ИИ к управлению процессами реального мира.
При этом у ИИ есть изначальные ограничения в компетенции, поскольку он обучается на текстах, а тексты не описывают всю полноту реальности - прагматические аспекты опыта человека недоступны ИИ. Кроме того, настройка предпочтений в выборе наиболее подходящих ответов на запросы со стороны ChatGPT, например, ведется с учетом определенных идеологических установок. Поэтому "бояться надо не ИИ, а умных и злых людей, которые им управляют", - сказал Игорь Ашманов.
По его оценке, саморегулирование в сфере использования ИИ и оборота персональных данных не работает. Более того, принятие индустрией различных этических кодексов не приводит к положительным результатам и во многом преследует цель отсрочить принятие нормального законодательного и нормативного регулирования.
Игорь Ашманов выступил также за более жесткое регулирование и надзор за оборотом персональных данных. В настоящее время сбор данных происходит бесконтрольно и в объемах существенно больше необходимого минимума - таким образом компании накапливают "первоначальный цифровой капитал", чтобы использовать его для целевого продвижения и продаж товаров и услуг. По его оценке, вместо 5 млн операторов данных достаточно порядка 50 крупных хабов, которые будут максимально защищены.
Руководитель факультета права НИУ ВШЭ Антон Иванов отметил, что искусственный интеллект не стоит наделять субъектностью и приписывать ему свободу воли. В действительности нейросети контролируемы и во многом функционируют на базе взглядов их разработчиков.
«Пока искусственный интеллект формируется в условиях неправильной картины мира, поскольку он оценивает частоту повторения тех или иных материалов и, в зависимости от частоты, отмечает их значимость», – заметил Антон Иванов. Таким образом, редкие или неоцифрованные тексты не попадают в орбиту нейросетей, заключил эксперт: «Искусственный интеллект не опирается на всю палитру знаний».
В ходе дискуссии о развитии законодательства в области информационных технологий Антон Иванов высказался против чрезмерно жесткого регулирования в цифровой сфере. «В моем представлении, развить что-то, сразу создавая жесткое регулирование, невозможно. Сначала надо дать свободу, а потом ее определенным образом упорядочить. Потому что никто не знает, в каком направлении происходит развитие», – заявил он.
Резюмируя обсуждение, президент Ассоциации банков России Анатолий Козлачков сказал: «Когда технология развивается, проникает в социальные отношения и начинает их перестраивать, возникает негативный эффект, и мы как юристы, должны купировать этот эффект. Но в той части, где риск виден только профессионалам, а обществу не заметен, мы должны дать технологии развиться, и посмотреть, куда ведет такое развитие технологий при соприкосновении с социумом».
Говоря о перспективах регулирования оборота персональных данных, он допустил, что одной из основных форм развития может стать создание сверхзащищенных хабов, но при этом необходимо определить и установить их ответственность перед гражданами.