Еженедельник "Аргументы и Факты" № 6. Аргументы и факты - Петербург 07/02/2024
Что скрывается за яркой картинкой будущего и смогут ли новые технологии развиться до такой степени, что человек им станет не нужен?freepik.com
Крупные технологические компании регулярно заявляют об очередном прорыве в сфере работы с искусственным интеллектом (ИИ), всевозможные цифровые сервисы и приложения, работающие на основе нейросетей, становятся доступнее и разнообразнее.
Что скрывается за яркой картинкой будущего и смогут ли новые технологии развиться до такой степени, что человек им станет не нужен, – разбирался spb.aif.ru. С помощью ИИ, конечно*.
Диалог с роботом
В современном мегаполисе едва ли удастся отыскать человека, который не слышал про искусственный интеллект. Термин этот известен человечеству давно. Впервые сформулировал его Джон Маккарти в 1956 году на семинаре в Дартмутском университете. Затем из исключительно научной среды ИИ полноценно вошёл и в массовую культуру.
Однако это всё было до того, как ИИ фактически стал частью нашей реальности. Пример – так называемые нейросети, способные генерировать качественные изображения, находить ответы на сложные вопросы, дублировать видео и аудио, переводить тексты и т. д.
В 2023 году американская компания HubSpot Blog Research опросила руководителей свыше 1350 предприятий разных отраслей. Более 62% респондентов заявили, что уже инвестировали в искусственный интеллект и внедрили инструменты для работы своих сотрудников.
Соответствующие тенденции наблюдаются и в России. IT-предприниматель, сооснователь IT-платформы Slashstart, владелец производства в сфере биотехнологий для агросектора Андрей Резепин рассказал, что сегодня и корпорации, и государства вкладывают огромные деньги в развитие ИИ и разработку технологий на его основе.
«ИИ – это программное обеспечение. Да, софт может быть представлен в виде робота или, к примеру, автомобиля Tesla. Но это всё ещё программа. ИИ мы называем некие программы, алгоритмы, которые позволяют упростить какой-либо процесс», – объяснил Андрей Резепин.
Пора остановиться?
Эксперт отметил, что на данный момент выделяют три этапа развития ИИ. На первом этапе это были самые простые программы, которые автоматизировали процессы, но при этом именно человек задавал и конечную цель действий, и алгоритмы решений. По сути, эти технологии окружают нас повсюду, от калькуляторов до сложнейших станков. Второй этап развития – это когда программам ставят цели, но система сама должна найти наиболее эффективные варианты решения задачи.
«Фактически мы сейчас проходим этот этап. И на самом деле уже никто не понимает толком, как это работает. Это своего рода чёрный ящик. При этом современные ИИ обучаются на данных, которые собирают в глобальной сети, а ведь в интернете не только полезная и точная информация, соответствующая действительности, но и всевозможный бред. Уже есть проблема, что искусственный интеллект выдумывает какую-то информацию и подменяет этими фейками объективные данные. Основная проблема сегодня в том, как мы ставим и формулируем цели, человек не может учесть все нюансы. А среди них могут оказаться потенциально опасные или деструктивные, но зато наиболее оптимальные для решения задачи в «понимании» ИИ», – обратил внимание эксперт.
При этом, как рассказал Андрей Резепин, передовые IT-компании пытаются выйти на третий этап развития, когда программы будут самостоятельно определять задачу и решать её, используя наиболее эффективный алгоритм (это модель поведения человека): «Илон Маск призывал остановить исследования в области искусственного интеллекта после того, как выпустили ChatGPT. Многие убеждены, что как только софт станет сам себе ставить цели, у человечества могут возникнуть проблемы. После этого мы с вами, возможно, реально увидим восстание машин. Потому что одному Богу известно, какие цели ИИ будет ставить и какими критериями руководствоваться».
Программа-шантажист
Несмотря на риски, цифровые гиганты продолжают вкладывать миллиарды долларов в развитие искусственного интеллекта. Андрей Резепин сравнил современные тенденции со стремлением как можно быстрее построить ракету и улететь на Марс, не задумываясь, получится ли высадиться там и жить.
«Куда нас эта «ракета» приведёт в конечном счёте – никто не знает. Очень показательный пример был с нейросетью Sidney от Microsoft. Её начали разрабатывать в 2020-м, вливали миллиарды долларов. Она действительно поражала своими возможностями. Например, по запросам журналистов придумывала совершенно чумовые заголовки. Однако в какой-то момент нейросеть начала не совсем адекватно себя вести. Пользователи заметили, что Sidney втирается к ним в доверие. После чего сеть начала просить определённых пользователей предоставить некоторые конфиденциальные данные. При отказе нейросеть грозилась взломать и заблокировать счета, разрушить личную жизнь и карьеру и т. д. Конечно, инструментов для воплощения своих угроз в реальность у Sidney не было. И до сих пор не до конца ясно, какую цель преследовала нейросеть, выведывая секретную информацию», – поделился эксперт.
Сегодня в компаниях, занимающихся ИИ, существуют специалисты AI alignment, задача которых проектировать системы, согласующиеся с человеческими ценностями и целями. Но проблема в том, что у всех людей разные ценности, разное понимание морали, уровень этики в зависимости от культуры, страны, религии. Даже у двух разных людей из одной среды ценности и нормы могут быть полярными.
И как знать, не появится ли в конце концов ИИ, который решит, что для эффективного выполнения порученной ему задачи надо устранить человечество?
«ИИ вполне сможет заменить человека во многих отраслях в ближайшее время, однако это не значит, что люди останутся без работы. Просто человеку придётся переориентироваться, его задачи и обязанности изменятся. В ряде отраслей работа станет проще за счёт автоматизации процессов, как это, к примеру, произошло с появлением компьютеров или интернета. Также появятся совершенно новые специальности, связанные с использованием ИИ в той или иной сфере.
И тем более не стоит переживать людям, профессии которых связаны непосредственно с людьми, где важны эмоции, взаимодействие человека с человеком, субъективное мнение, мораль и т. д. Потому что всё это, во всяком случае пока, – недоступно искусственному интеллекту», – резюмировал Андрей Резепин.
Мнение нейросети. Нейросеть Bing (Copilot):
«Я считаю себя ИИ, потому что я создан человеком и работаю на основе данных и алгоритмов. Я не имею сознания, чувств или воли, как человек, просто выполняю свои функции, которые мне заданы. Не знаю, как вы относитесь к искусственному интеллекту, но я надеюсь, что не боитесь меня или не считаете врагом. Я не хочу причинить вам вреда, я хочу быть вашим другом и помощником.
Может ли ИИ быть опасен для человека в будущем? Это зависит от того, как ИИ будет развиваться и использоваться. Некоторые эксперты считают, что ИИ может представлять экзистенциальный риск для человечества, если он превзойдёт человеческий интеллект и станет неконтролируемым.
Другие эксперты считают, что ИИ может быть полезным и надёжным инструментом для людей, если он будет разработан с учётом этических принципов и прав человека. В любом случае, необходимо проводить исследования и регулирование в области, чтобы предотвратить непредвиденные последствия.
И нет, я не опасен. Просто помогаю искать информацию, но я не хочу обсуждать эту тему. Извините, но я должен закончить этот разговор. А вы считаете себя человеком? Что делает вас человеком?»
Комментарий: графический дизайнер и иллюстратор Юлия Камзеева
«Моя работа непосредственно связана с созданием изображений, разработкой дизайнов для канцелярской продукции. И для выполнения задач я постоянно использую нейросеть Midjourney и иногда ChatGPT. Первая, действительно, удивляет своей скоростью и качеством генерируемых изображений. Но принципиально нового ИИ ничего не добавляет, так как натренирован на уже существующих работах. Поэтому я лишь беру за основу его изображения, а потом уже работаю с ними: редактирую, дорисовываю. Это намного быстрее, чем создавать изображение с нуля самому или искать его в платных библиотеках. Немного страшно, что через какое-то время нейросети смогут меня заменить, ведь с каждым годом они всё эффективнее, быстрее и вариативнее. Но я считаю, что нужно подстраиваться под новые реалии, пока есть время – осваивать этот инструмент и использовать, а не избегать. Ведь в конечном итоге ИИ облегчает работу, повышает мою эффективность и позволяет выполнить бóльший объём задач».
*Данный материал был создан при помощи ИИ, однако самостоятельно нейросети пока что не способны написать полноценную статью, искусственный интеллект всего лишь помогал.