О терминологии в построении искусственного интеллекта

@Vestnik GLONASS
О терминологии в построении искусственного интеллекта

В современном обществе от признанных учёных до многочисленных обывателей одной из обсуждаемых тем стала опасность от проникновения в процессы управления вооружением, производством, образования и других критических сфер деятельности человека, так называемого, «искусственного интеллекта». Однако, определённого и не оспариваемого определения этого термина, в настоящее время, не существует.

Разобраться в этой проблеме, специально для читателей журнала «Вестник ГЛОНАСС», согласился кандидат технических наук, доцент МАИ Степан Канев:

«Конфуций говорил, что «если название не соответствует сущности, то и «словам неблагополучно», если «словам неблагополучно», то и дела не будут ладиться …». Именно этот процесс мы сейчас и наблюдаем. Принятая терминология не соответствует сущности, результат не соответствует ожиданиям, ожидания не соответствуют возможностям и т.д.

Что такое искусственный интеллект? Начнем с того, что уже привычно используемый в русском языке термин «искусственный интеллект» является неточным переводом с английского «artificial intelligence». В английском языке есть слово intellect соответствующее русскому «интеллект». А слово «intelligence» правильнее было бы перевести как «умение рассуждать разумно». Соответственно более точный перевод должен был бы быть примерно таким: «что-то искусственное, умеющее рассуждать разумно». Однако столь длинное выражение вряд ли могло бы прижиться. Поэтому по-русски часто говорят: «Искусственный интеллект». Хотя этот термин совершенно не соответствует реалиям.

Общепризнанного определения термина «искусственный интеллект» нет. Приведу одно из наиболее популярных определений, данное в 1956 г Джоном Маккарти: искусственный интеллект – свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. К недостаткам такого определения можно отнести и размытость термина «творческие функции» и антропоцентричность. Другие животные тоже считают, что ведут себя разумно. Просто у них другие представления о разумности. С другой стороны, если какая-то не человеческая цивилизация создаст суперинтеллект, которому человеческие «творческие функции» покажутся совершенно несущественными и неинтересными, то должны ли мы считать его на этом основании неразумным?!

Раз возникают трудности с прямым определением термина, то можно попытаться определить его косвенно. Самым известным таким подходом является «тест Тьюринга». В 1950 году Алан Тьюринг опубликовал статью, в которой фактически предложил считать искусственным интеллектом то, чьи рассуждения человек не может отличить от человеческих. В той статье Тьюринг и писал о возможностях создания искусственного мышления, близкого к человеческому. Поэтому антропоцентричность его теста была вполне естественной.

У подобных тестов есть и еще один недостаток. Предполагается, что интеллектуальный уровень человечества (или хотя бы тестировщиков) не будет деградировать. А это утверждение, мягко выражаясь, спорное. Во всяком случае те же человеческие мудрецы уже не одну тысячу лет твердят, что в этом мире ничего вечного нет. А значит, что и человечество когда-нибудь войдет в стадию упадка (причем может этого даже и не осознать). Остается лишь надеяться, что искусственный интеллект дорастет до человеческого уровня быстрее.

Раз с тестами тоже все непросто, то можно попробовать хотя бы перечислить свойства, по которым мы сможем отличить искусственный интеллект. Их совсем не много:

- способность создавать что-то принципиально новое, при этом полезное;

- способность к самообучению.

На данный момент не известно ни одной искусственной системы, обладающей двумя этими свойствами одновременно. Либо одно, либо другое. Если к обладанию первым свойством некоторые современные искусственные системы уже подошли вплотную, то со вторым у них большие проблемы. И связаны они с тем, что самообучающиеся системы гораздо сложнее и требуют на порядки больше затрат на первоначальное обучение. Хотя некоторые группы разработчиков и заявляют, что у них полноценный искусственный интеллект толи уже есть, толи вот-вот появится, но жизнь учит не верить в таких вопросах на слово до появления результатов независимого тестирования. Для чего-то приближающегося к человеческим способностям в английском языке изобретаются новые термины. Например, Artificial General Intelligence, Strong Artificial Intelligence. Обратите внимание, что слово intellect предусмотрительно не используется.

Если говорить о тесте Тьюринга, то умный человек по-прежнему отличит машину от человека. Но если десять лет назад для этого достаточно было задать один вопрос, три года назад понадобилось бы десять. Сейчас для уверенного ответа может понадобиться сто вопросов. Тем не менее есть несколько методик, которые рано или поздно позволяют вычислить искусственное происхождение собеседника. Это связано и как с не самыми удачными методиками обучения популярных нынче генераторов текстов, изображений, музыки, видео и т.п., так и с вычислительными ресурсами, требуемыми для полноценного анализа. Человек не только вычленяет отдельные факты из текста, объекты из изображения и т.д., но и способен их сопоставлять, делать какие-то выводы. У искусственных систем это пока почти не получается. В силу распространенных методов их обучения они не признаются в незнании или неумении, а начинают генерировать что-то методом тыка. Отсюда появляются несуществующие якобы высказывания известных людей, придуманные музыкальные группы и т.д. Знакомый с темой человек сразу это обнаруживает.

Возвращаясь к терминологии. Если существующие системы нельзя назвать искусственным интеллектом, то, как же их называть? До недавнего времени встречался более-менее адекватный термин «элементы искусственного интеллекта». В последний год он почти вышел из употребления. Но за этот же последний год стали массово доступны нейронные сети, позволяющие писать тексты, рисовать изображения и т.п. Это уже довольно существенное продвижение в развитии. Такое уже может претендовать на что-то большее, чем просто «элемент». В перспективе подобные сети вполне могут стать подсистемами полноценного искусственного интеллекта. Но называть их подсистемами еще не существующей системы нелогично. Гораздо лучше называть их «генераторами текстов», «генераторами изображений» и т.д., чем они, по сути, и являются.

Ну и под самый конец несколько слов о различного рода страшилках. Заменит ли искусственный интеллект людей. Отчасти. Развитие техники регулярно приводило к изменению списка профессий в экономике. Для кого-то это даже становилось трагедией. Но общество в целом на подобные мелочи даже внимания не обращало. Также будет и сейчас. Компьютеры уже давно считают быстрее людей, но спрос на математиков от этого не уменьшился. Просто математики стали заниматься другими задачами, оставив рутинные вычисления машинам. Обладателям естественного интеллекта искусственный в обозримом будущем не угрожает».