Илон Маск, глава Tesla, SpaceX, а также более 1300 экспертов призвали приостановить на полгода обучение продвинутых систем искусственного интеллекта (ИИ), чтобы понять, как их контролировать.
Открытое письмо размещено на сайте Института будущего жизни (Future of Life Institute). Этот документ появился, вероятно, по причине гибели бельгийского ученого, который покончил с собой после шести недель разговоров с ИИ, о чем стало известно буквально на днях.
Однако почему Маск, который является по совместительству еще и руководителем стартапа Neuralink, вдруг призывает на шесть месяцев ввести мораторий на обучение систем искусственного интеллекта?
Neuralink - компания, основанная Илоном Маском в 2016 году, целью которой является создание технологии, позволяющей человеку управлять компьютерами и другими устройствами с помощью своих мыслей. Это технологический стартап, разрабатывающий устройство с нейронным интерфейсом N1 Link.
Дело в том, что в марте текущего года американская компания OpenAI представила новую версию языковой модели с генеративным искусственным интеллектом GPT-4. Иначе говоря, конкуренты Neuralink смогли значительно продвинуться в работе с ИИ.
Кроме того, недавно агентству Reuters стало известно, что Neuralink ведет переговоры с различными центрами, в частности с неврологическим институтом Барроу (штат Аризона), организацией по лечению и исследованию неврологических заболеваний, для проведения испытаний на людях. И эта информация появилась в публичном пространстве.
Neuralink разрабатывает мозговые имплантаты, которые помогут, по мнению их создателей, лечить паралич и слепоту.
Сам Илон Маск заявлял, что в будущем будет возможно сохранять и пересматривать воспоминания. Это похоже на один из сценариев британского телесериала «Черное зеркало», где главные герои обладали способностями «отматывать» события назад по времени.
Как в свое время сообщал Forbes, на начальном этапе Илон Маск инвестировал в свою нейротехнологическую компанию $107 млн. Затем были привлечены средства венчурных фондов и частных инвесторов из Кремниевой долины: $39 млн и $205 млн на разных этапах финансирования стартапа.
В 2019 году после проведения тестовых испытаний на крысах Neuralink в прямом эфире провела публичную презентацию своих разработок. Именно тогда Маск заявил, что он ставит целью компании создание устройства для кибернетического усовершенствования - когда люди с помощью имплантированных чипов могли бы обмениваться «цифровыми» мыслями или загружать в мозг новый иностранный язык.
В августе 2020 года Маск объявил, что Neuralink успешно провела испытания на свиньях, а в январе 2021 года компания уже представила робота, автоматически имплантирующего чипы.
В апреле 2021 года весь мир облетело видео, в котором подопытная обезьяна Пейджер с имплантированным чипом от Neuralink играет в Atari Pong (видеоигру). Тогда же Илон Маск в своем Twitter самонадеянно написал: «С помощью продукта Neuralink человек с параличом сможет управлять смартфоном силой разума быстрее, чем любой, кто пользуется пальцами».
Однако в начале 2022 года Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) отклонило заявку Neuralink на переход к испытаниям на людях, сославшись на серьезные проблемы с безопасностью.
При этом за последние годы Neuralink потеряла большую часть команды, нанятой при создании стартапа. По данным Fortune, уволенные сотрудники ссылались на внутреннюю напряженность в компании и проблемы в ее управлении.
Также за стартапом Neuralink тянется шлейф скандалов, связанных с обвинениями в негуманном обращении с животными. Расследования правозащитных организаций еще ведутся.
В конце прошлого года агентство Reuters обнародовало информацию о том, что действующие и бывшие сотрудники Neuralink жалуются на то, что число погибших испытуемых животных выше, чем должно быть, по причинам, связанными с требованиями Маска ускорить исследования.
Взгляды экспертов на технологический стартап Neuralink расходятся: одни считают технологии микрочипов Маска прорывом, другие – что слияние человека и искусственного интеллекта еще не продумано и может привести к «самоубийству человеческого разума». Некоторые эксперты называют Илона Маска шоуменом и призывают с осторожностью относиться к его обещаниям (Forbes).
Попытки вмешательства в мозг подопытного, когда он практически становится человеком-киборгом, несут этические риски, а также непредсказуемость последствий такой имплантации - какую цену в рамках социального взаимодействия человек заплатит за улучшение своих когнитивных способностей?
Можно предположить, что медицинское использование нейрочипов – это только точка входа на более массовый рынок для компании Neuralink, а в глобальном масштабе - реализация идей трансгуманизма.
Создается впечатление, что Илон Маск выступает с громкими заявлениями об очередных шагах исследований, а также использует информационный повод о гибели бельгийского ученого, чтобы нивелировать репутационные потери от утечки информации о разработках Neuralink и попытках провести опыты над людьми.
Формируя общественное мнение, он тем самым привлекает новых сторонников и, вероятно, оказывает давление на регулирующие органы США с целью перехода на новые этапы испытаний своих микрочипов.
Присоединяясь к петиции, Илон Маск, возможно, играет на опережение - пытается блокировать разработки конкурентов по работе с ИИ.
К слову сказать, представители OpenAI не подписали открытое письмо Института будущего жизни (Forbes).