Играя, каждый сможет творить будущее человечества
Билл Гейтс, Стивен Хокинг, Илон Маск утверждают, что искусственный интеллект для человечества опасней, чем атомная бомба. Что мы вызываем демона. Оправданы ли такие опасения? Об этом рассказывает директор Научно-координационного совета Центра науки и технологий искусственного интеллекта МФТИ Сергей Шумский.
Чтобы эффективней учить машину, надо ее "психику" сделать ближе к нашей. Фото: EPA
Машина уже способна думать почти как человек. Так сегодня многие представляют искусственный интеллект. Насколько это верно? И что это вообще такое? Электронная система, в чем-то аналогичная компьютеру?
Сергей Шумский: Искусственный интеллект - это программы, в которых построены модели нейронных сетей, имитирующих структуру нашего мозга. И учатся эти сети так же как учатся дети, на примерах. Ведь им не объясняют, что у кошки вот такие усы, такой хвост, такие уши. Им показывают животное и говорят - это кошка. И что важно, показывают многократно. А дальше ребенок сам многократно повторяет этот урок, глядя на очередную кошку. Точно также учится и искусственная нейронная сеть.
Они известны давно, но сложность их обучения долгие годы была камнем преткновения. Поэтому создавали небольшие сети, способные решать довольно простые задачи. Но за последние 5 лет мощность компьютеров достигла наконец критического значения, и произошел прорыв. Что еще недавно казалось совершенно недостижимым, стало реальностью. Многие сложные задачи искусственный разум уже решает лучше человека. Это, в частности, распознавание изображений, перевод текстов, стратегическое планирование и принятие решений в играх, например, го, покер, шахматы.
В нашем мозге 86 миллиардов нейронов, а сколько в нейронных сетях машины?
Сергей Шумский: Десятки миллионов искусственных нейронов и миллиарды настроечных параметров. Это уровень отдельных подсистем мозга, которые решают отдельные задачи. Но хочу подчеркнуть, что искусственные сети делают это не хуже человека. Это так называемый "узкий" интеллект. Но сейчас гонка в мире идет за общим интеллектом, который, в принципе, должен объединить все "узкие" и сформировать универсальное мышление.
И тогда появится супермашина, которая сможет не только беседовать с человеком на любые темы, но и решать самые сложные задачи? Этакий мировой интеллект, как в фантастических романах и фильмах.
Сергей Шумский: Вряд ли общий интеллект - это будет большая единая машина, которая сможет думать и философствовать с человеком на разные темы. Судя по тому, как сегодня развивается сфера искусственного интеллекта, появятся тысячи, а потом и миллионы, "узких" интеллектов, из которых программы-интеграторы будут собирать по принципу "Лего" нейронные сети для решения конкретных задач.
Кстати, такой принцип действует и в нашем обществе. Вы знаете одно, я - другое, кто-то - третье и т.д. Вместе мы можем провести "мозговой штурм" какой-то задачи. То же будет происходить с искусственным разумом. За счет специализации он будет накапливать разнообразные знания в своих подсистемах, а объединившись, штурмовать сложные задачи, дополняя интеллект друг друга. Вытесняя человека из сфер, где он проигрывает машине.
К искусственному интеллекту сегодня отношение противоречивое. Одни говорят о фантастических перспективах, которые он принесет человечеству, другие его опасаются. А такие авторитеты, как Билл Гейтс, Стивен Хокинг, Илон Маск утверждают, что для человечества он опасней атомной бомбы. Если этот демон вырвется на свободу то, в конце концов, разрушит нашу цивилизацию.
Сергей Шумский: Все зависит от самого человека. Хочу подчеркнуть, что искусственный интеллект в отличие от обычного компьютера нельзя запрограммировать на "хорошее". Он учится на примерах. Поэтому будет он дружественным или агрессивным зависит от того, какие примеры мы ему подадим. Причем, каждый сможет принять участие в таком воспитании.
Но пугают, что умная машина вытеснит нас из многих сфер, огромное число людей вообще лишится работы. Они смогут весь день лежать на диване, играть на компьютере, а за безделье еще и получать пособия. Как вам такие сценарии будущего.
Сергей Шумский: Думаю, все не так просто. Скажем, вот такой сценарий. Да, людям будут платить деньги за игру, но за такую, где человек в игровой форме будет, по сути, обучать машину дружескому поведению, проявлять в игре духовные ценности, к которым пришла человеческая культура.
Машина учится добру и злу, копируя человека
Но мы можем передать машине только то, что у нас есть. А если в мире царит агрессия, то чему мы ее научим?
Сергей Шумский: Этому и научим. Поэтому желательно стать более приличными, это в общих интересах. Сегодня, как никогда, будущее зависит от каждого человека. Причем это не далекое завтра, в нем будут жить уже наши внуки.
Кстати, чтобы эффективней учить машину, надо сделать ее "психику" ближе к нашей. Такой подход следует из общей теории обучения. Значит, необходимо создавать модели психики человека, ее архитектуру и на ее основе строить из нейронных сетей архитектуру искусственного интеллекта. Чтобы у него были аналоги наших эмоций, тогда есть надежда, что взаимопонимание между нами и машиной будет намного полнее.