Китайские технологические компании рискуют разработать «роботов-убийц»

(Источник изображения: Bigstock/jpgon)

(автор статьи — Крис Удеманс)

Несмотря на призывы регулировать военное применение искусственного интеллекта, технологический сектор Китая находится под угрозой соучастия в разработке автономного смертоносного оружия. Несколько компаний проявили живой интерес к сотрудничеству с органами государственной безопасности страны.

Голландская антивоенная неправительственная организация PAX процитировала опасения поводу возможности использования технологий самого высоко оценённого в мире AI-стартапа Sensetime и компании по распознаванию лиц Yitu для разработки «роботов-убийц», которые могут выбирать и поражать цели без вмешательства человека.

Хотя продукты Sensetime и Yitu в настоящее время не используются в боевых условиях, характер этих продуктов, а также история работы компаний с правительством Китая вызывает беспокойство, утверждает PAX. В недавнем докладе организация назвала эти две компании «вызывающими серьезную озабоченность».

Sensetime и Yitu не дали комментариев.

Доклад PAX ранжирует вероятность такого соучастия технологических компаний в соответствии с технологиями, которые они разрабатывают, историей сотрудничества с правоохранительными или военными органами, и наличием заверений о неучастии в разработке роботов-убийц.

В докладе также упоминаются другие китайские технологические компании, в том числе Alibaba, Baidu и Tencent, хотя PAX классифицирует эти компании как менее проблемные.

Доклад PAX появился на фоне растущих призывов к осторожности в отношении так называемой третьей военной революции после изобретения пороха и ядерного оружия. Около 30 стран и видные деятели научно-технического сообщества в настоящее время поддерживают запрет роботов-убийц. Илон Маск из Tesla, выступая на правительственной конференции по AI в Шанхае на этой неделе, также предупреждал об опасности, которую они представляют.

В настоящее время семь стран разрабатывают летальное автономное оружие, в том числе США и Китай. Разрабатываемые проекты включают автономные беспилотники, а также AI-танки и истребители, автономность которых вызвала тревогу.

«Роботы-убийцы не смогут применить ни сострадание, ни юридические и этические суждения к решениям об использовании смертоносной силы», — высказалась Human Rights Watch о технологии в начале октября.

Технологические компании США, включая Google и Palantir, взяли на себя государственные контракты, применения варьируются от анализа кадров съёмки дронами до документирования иммигрантов. То же самое относится и к Китаю, где частный сектор выполняет государственные тендеры на поставку технологий в целях обеспечения социальной стабильности.

В докладе PAX поднимаются вопросы о возможном участии технологического сектора в гонке за следующее поколение военных технологий, в которой выгодные государственные контракты могут обеспечить значительные стимулы. Между тем, Китай занимает неоднозначную позицию в отношении автономного оружия, поддерживая запрет на использование и одновременно настаивая на недопустимости запрета на разработку такого оружия.

— Очевидно, что китайские военные очень активно участвуют в реализации ряда AI-приложений, – говорит Эльза Кания, старший научный сотрудник, который изучает модернизацию вооруженных сил Китая в Центре новой американской безопасности, базирующемся в Вашингтоне, округ Колумбия.

Будущее боевых действий

— На будущих полях сражений людей не будет, — говорит Цзэн И, старший исполнительный директор одной из крупнейших оборонных компаний Китая Norinco на форуме Xiangshan в Пекине в прошлом году.

Форум Xiangshan имеет огромное значение. Благодаря его акценту на безопасности в Азиатско-Тихоокеанском регионе, он имеет для Диалога Шангри-Ла такое же значение, что и форум в Боао для Давоса. Norinco является ключевым игроком в оборонной промышленности Китая, её продукция используется как внутри страны, так и на международном уровне, в том числе на Ближнем Востоке.

Цзэн также предсказывает, что учитывая использование AI, к 2025 году автономное оружие будет повсеместно распространено на полях сражений.

– Мы уверены в этом направлении, и в том, что это будущее, — добавил он.

Такого рода мышление вызывает озабоченность критиков. Как и гонка по производству ядерного оружия во время Холодной войны, разработка автономного оружия может привести к так назвываемой «гонкой AI-вооружений», в которой различные государства будут конкурировать за разработку этого оружия. В отличие от ядерного оружия, которое действует как сдерживающий фактор, автономное оружие может сделать страны более склонными к началу войны, поскольку не требуется вводить человеческие войска, — говорят наблюдатели.

Как и большинство секторов, предназначенных для развития, правительство вкладывает значительные ресурсы за модернизацию вооруженных сил, создавая привлекательное предложение для технологических стартапов. Как заявил руководитель проекта PAX по автономному оружию Даан Кайзер TechNode в телефонном интервью, для китайских компаний это могут быть довольно прибыльные проекты, поэтому для участия существуют экономические причины.

Финансовые стимулы очевидны в секторе видеонаблюдения, где такие компании, как Sensetime, Yitu и их конкурент Megvii, на этой неделе объявивший о планах выхода на биржу в Гонконге, переживают рост прибыли засчёт правительственных контрактов.

Хотя финансовые показатели Sensetime и Yitu недоступны, документы Megvii, поданные на Гонконгскую фондовую биржу, показывают, что доход компании достиг почти 1 млрд юаней ($133 млн) в первой половине 2019 года, что компания объясняет, в частности, государственными заказами. Выручка компании за первые шесть месяцев этого года в три раза превысила объём продаж за весь 2017 год.

Sensetime, Yitu, Megvii и Cloudwalk, также упомянутые в докладе PAX, разработали AI-системы видеонаблюдения, которые помогают полиции Китая следить за гражданами, анализируя видео и распознавая интересующих лиц.

Например, разработанные Sensetime системы SenseTotem и SenseFace в настоящее время используются для этой цели по всему Китаю. Технология Yitu используется органами общественной безопасности в 20 провинциях по всей стране.

— Правительство создаёт выгодные возможности для бизнеса, включая эти компании в свою цифровую повестку дня. Компании, в свою очередь, помогают обеспечить политическую стабильность, — пишет в блоге Себастьян Хайльманн, президент-основатель Института китайских исследований Mercator.

Правительство Китая также приступило к осуществлению ряда государственных инвестиционных инициатив, направленных на налаживание партнерских отношений между частным сектором и военными. По состоянию на середину этого года, инвестиции достигли десятков миллиардов юаней.

Стимулы для предоставления технологий для «роботов-убийц» могут выходить за рамки финансовой выгоды, поскольку китайское правительство стремится содействовать созданию атмосферы «слияния гражданского и военного сектора». Народно-освободительная армия Китая стремится развивать более тесные связи с частным сектором страны и научно-исследовательскими организациями.

Китай видит необходимость в этом сотрудничестве для стимулирования оборонной промышленности, в которой традиционно ощущается недостаток креативности, и невозможность использовать военные инновации в коммерческом секторе. Предприятия контролируются на самом высоком уровне во главе с председателем КНР Си Цзиньпином.

— Всякий раз, когда появляется национальная инициатива, возникает давление на компании, заставляющее их участвовать, — говорит Кания. Она добавляет, что стремление военных наладить тесные связи с гражданскими создаёт «больше программ, направлений и возможностей» для бизнеса по работе с вооруженными силами.

Несмотря на растущее давление, компании не принуждаются к такого рода сотрудничеству. Китайские военные не имеют прямого доступа к технологиям в коммерческом секторе. Некоторые технологические компании выражают заинтересованность в этом виде работы, а другие не выражают, утверждает Кания на основе общедоступной информации.

Тем не менее, существует «абсолютная связь» между приложениями безопасности и обороны, добавляет она. Это означает, компании, которые участвуют в одном секторе, с большой вероятности могут заняться исследованиями другого.

Военные учения

AI занимает центральное место в разработке автономного оружия, и Китай делает большие ставки на технологии. Страна догоняет США и обогнала Европейский Союз по своим возможностям, сообщает Центр инноваций в области данных — базирующийся в США исследовательский центр. Государственный Совет Китая, объявил о планах страны стать мировым лидером в области AI к 2030 году.

Между тем, план Made in China 2025, который лидеры страны рекламировали как стратегию продвижения Китая вверх по цепочке создания промышленной стоимости, уделяет приоритетное внимание развитию робототехники, аэрокосмической промышленности и информационных технологий. Все эти отрасли развивают технологии двойного назначения, военно-гражданские.

— Китайские военные считают, что в военных делах происходит революция, в которой AI может иметь решающее значение для будущей военной мощи, — говорит Кания.

Эти системы могут использоваться в различных областях применения — от киберзащиты до создания оружия с постоянно растущим уровнем автономности. Машинное распознавание, в частности, может оказаться чрезвычайно ценным при разработке высокоавтономного оружия, позволяющего вооружениям не только «видеть» окружающий мир, но и анализировать его и принимать решения на основе этого анализа.

Опасность, по словам Кайзера, заключается в том, что интеллектуальное оружие может принимать решения со скоростью, выходящей за рамки человеческих возможностей.
— Если вы сможете принимать решения быстрее, чем ваш противник, вы сможете победить его, — говорит он.

Протест

В июне 2018 года американский поисковый гигант Google объявил, что не будет продлевать контракт Пентагона на анализ видеоматериалов дронов. Цель этого проекта, получившего название «проект Maven», была проста: использовать машинное обучение для повышения точности ударов беспилотников.

Связь резко прервалась. Тысячи сотрудников Google подписали петицию, требующую отказаться от проекта, а многие другие подали в отставку.

— Мы считаем, что Google не должна участовать в военном бизнесе, — начинается открытое письмо генеральному директору Google Сундару Пичаи.

Аналогично, компания по анализу данных Palantir, основанная членом правления Facebook Питером Тилем, недавно оказалась в центре скандала по поводу контрактов с Иммиграционным и таможенным управлениями США для сбора информации о нелегальных иммигрантах.

Подобный протест против технологических компаний, сотрудничающих с правительством, в Китае в значительной степени отсутствует.

— Насколько мне известно, ни одна китайская технологическая компания, которая работала с Министерством общественной безопасности или военными, никогда не протествовала против такого сотрудничества, — говорит Кания.

Несмотря на это, страны, работающие над этими видами оружия, вряд ли остановятся в ответ на протест общественности. Если хотя бы одна страна будет разрабатывать автономное оружие, другие, скорее всего, последуют её примеру.

— Страны наблюдают друг за другом. Основное обоснование изучения таких технологий, по-видимому, такое: «Наши противники тоже делают это», — сказал Кайзер.

Попробуйте дерево связей для поиска пересечений между медийными объектами. Узнайте, пересекаются ли Google и , и что именно их связывает
Смотреть

Хотите больше?

Получите полный доступ к новостям и аналитике бесплатно и без рекламы.

Люди
Действующие лица
Си Цзиньпин
Последняя должность: Председатель Китайской Народной Республики
Илон Рив Маск
Последняя должность: Генеральный директор, главный инженер (SpaceX)
Кания Эльза
Кайзер Даан
Хайльманн Себастьян