В детстве многие из нас смотрели разную фантастику, где героям самозабвенно противостояли всякие боевые роботы. Все они были очень эффективные, но обычно имели некий изъян, который помогал героям с ними успешно расправляться. Ну что же, будущее наступило, и в реальности все оказалось гораздо серьезнее, чем рисовали фантасты в прошлом. Президент Александр Лукашенко на саммите ОДКБ затронул проблему использования нейросетей в военных целях: «Имея способность к самообучению, этот инструмент может погубить человечество, если его выпустить из‑под контроля». О чем в глобальном смысле идет речь и что мы делаем в этом направлении?
Президент Беларуси Александр Лукашенко:
— Страны Запада уже вовсю занимаются этой проблемой (развитием искусственного интеллекта. — Прим. ред.). Нужно также подумать над тем, как повысить практическую отдачу от Соглашения 2017 года о сотрудничестве государств — членов ОДКБ в области обеспечения информационной безопасности. Мы должны идти в ногу со стремительным развитием кибертехнологий, чтобы эффективно реагировать на вызовы и угрозы безопасности наших стран в данной сфере.
На саммите Организации Договора о коллективной безопасности, 28 ноября 2024 года.
Тактический уровень
Может ли этот, с позволения сказать, «калькулятор для решения интеллектуальных задач» убивать людей? Конечно, причем уже довольно давно. Первый случай, когда беспилотник самостоятельно, без приказа оператора, атаковал человека, зафиксирован еще в 2020 году в ходе гражданской войны в Ливии. Сразу после этого организация Human Rights Watch призвала запретить разрабатывать, производить и использовать автономное оружие, чтобы избежать нашествия роботов‑убийц, но кто же их слушать‑то будет… Уже сейчас беспилотниками, способными самостоятельно атаковать противника и обнаруживать объекты для ударов, никого не удивишь. Да и автономных наземных механизмов, оборудованных оружием, нам показали уже немало. Вот еще замечательный пример — дистанционно управляемый пулемет, с помощью которого в 2020 году был убит иранский ученый‑ядерщик Мохсен Фахризаде. Пулемет управлялся через спутник, это приводит к определенным задержкам при передаче сигнала от оператора и обратно, и, естественно, о прицельной стрельбе с такими задержками речи идти просто не может. Поэтому оператор только отмечал цель, а стрелял пулемет уже самостоятельно, компенсируя смещение от отдачи и задержку сигнала. Меньше чем за минуту было сделано 15 прицельных выстрелов, что не оставило жертве никаких шансов.
Правда, развивается это направление на порядок медленнее беспилотных летательных аппаратов.
Тем более что техника, которая может самостоятельно выбирать цели, в силу своей специфики лишь одно из направлений. Не менее популярны и гораздо более востребованы системы, помогающие солдатам целиться, они просто показывают в прицеле, куда именно надо навестись.
С учетом ветра, давления, плотности воздуха, влажности и еще кучи факторов. Стоит это гораздо дешевле самостоятельных механизмов, а эффект дает чуть ли не больший. Нейросети координируют группы на поле боя, выявляют бреши в обороне противника, определяют раненых и сразу дают рекомендации по оказанию первой помощи. В общем, они уже постепенно просачиваются во все тактические ниши, да и на стратегические замахиваться начали.
Стратегические задачи
К примеру, уже сейчас, получая данные с беспилотников, по направлению стволов и углу наклона обнаруженных орудий нейронка замечательно может определить сектор, куда упадет снаряд, и моментально предупредить бойцов, находящихся в зоне поражения, что надо или прятаться, или уходить.
Уже сейчас в разведке эти технологии просто незаменимы, нейросети с невероятной точностью обнаруживают замаскированные войска и вскрывают логистические маршруты по спутниковым снимкам. Все, что требуется, — постоянно получать свежие снимки из космоса, и все попытки противника как‑то замаскировать свои передвижения моментально сходят на нет.
Кто‑то скажет, что сравнивать снимки могут и люди. Безусловно, могут, но и близко не с теми результатами и скоростями, которые доступны нейросетям. А еще они просто замечательно обнаруживают замаскированное оружие — как у людей в толпе, так и на просвете багажа. Казалось бы, сплошная панацея и скоро в армиях будут воевать только роботы, но не все так просто.
Точность данных
Мы тут постоянно говорим об обучении нейросетей, но как они обучаются? Ведь чтобы идти дальше, нам надо хотя бы представлять, о чем вообще идет речь. И вот тут у нас возникает небольшая проблемка. Дело в том, что общеупотребительных слов, описывающих эти процессы, попросту не существует. Это все исключительно математические категории, и пытаться объяснить эти вещи в рамках статьи — задача совершенно безнадежная. Поэтому прибегнем к аналогиям, оно не совсем верно, но суть процесса объяснит.
Представьте себе некое существо, живущее в абсолютно изолированном от внешнего мира помещении. К центрам удовольствия в его мозге подключены электроды, которые при активации могут доставлять ему радость. И все, чего это существо хочет, — чтобы эти электроды работали. В комнату постоянно по конвейеру поступают таблички с какими‑то символами, значения их существо не знает и знать не может. Оно может лишь как‑то их переложить, и потом они уезжают из комнаты.
Но иногда после перекладывания «трудяга» получает укол удовольствия, которое хочет испытывать постоянно. И вот так оно проводит тысячи лет, ну если на человеческую скорость мышления переложить, а в случае с большими моделями — даже десятки миллионов лет. И со временем этот «ученик» начинает понимать, каким именно образом надо переложить идущие перед ним знаки, чтобы постоянно получать удовольствие.
Вот именно так нейросеть и обучается. Она, грубо говоря, думать не умеет, просто ищет экстремум, то есть максимальное или минимальное значение функции на заданном множестве. И в итоге через миллионы таких циклов она всегда будет правильно комбинировать входящие данные.
Если они не будут соответствовать задаче, для выполнения которой нейронка обучалась, на выходе получим белиберду. И, следовательно, чем точнее и качественнее данные, тем лучше будет результат.
Когда дроны бесполезны
Сведений о военных конфликтах у нас более чем достаточно, но если обучить нейронку на фактах о Второй мировой войне, то ничего путного не будет. Именно по этой причине сейчас вперед вырвались системы, условия обучения для которых можно создать в мирной обстановке. Ну, никто ведь не мешает устроить стрельбу по мишеням в различных погодных условиях и на этих данных обучать систему, помогающую прицеливаться.
Многое достижимо, так сказать, в лабораторных условиях, а вот с реальными боевыми действиями дела обстоят несколько сложнее. Иными словами, если обучать на учениях, то нейросеть научится участвовать в учениях.
Именно по этой причине внимание компаний, занимающихся подобными разработками, сейчас приковано к проводимой в Украине СВО. Ведь первые дроны, которые управляются нейросетями и самостоятельно выбирают цели, появились там только потому, что их есть на чем обучать. И данные с реальных боевых действий между современными армиями представляют невероятную ценность для подобных разработок. Но вот какой тут еще момент: если эти дроны без дообучения попытаться применить, скажем, в Африке, то они станут совершенно бесполезными. Просто по той причине, что там иные условия и другая военная техника, а нейросети неспособны адаптироваться к новым условиям, их нужно опять натаскивать. Любой, кто как‑то связан с нейросетями, знает, что главная проблема при их обучении — это качественные данные.
Совместные перспективы
Но вот ведь какое дело: актуальные данные для обучения нейросетей с боевых действий на СВО есть у двух конфликтующих сторон. И в России подобными разработками тоже занимаются, и даже те вещи, которые в публичное поле попадают, вполне себе впечатляют. Про «Алису», живущую в колонке, точно практически все слышали, а это ведь тоже нейросеть, причем с крайне широкой специализацией. Ну то есть опыт обучения и серьезные специалисты там есть. Чем более узкая специализация у нейросети, тем проще ее спроектировать и обучить. Поддержать разговор о погоде — задача невероятно сложная, а скорректировать прицеливание танкового орудия — так это проще некуда. К слову, мы тут, в Беларуси, замечательные танковые прицелы производим, и от самого этого факта некоторых наших недругов корежит так, что они кушать не могут. Так отчего бы их еще и нейросетью не улучшить? Безусловно, есть вопросы к программно‑аппаратной базе, но тут нам Китай очень серьезно подсобить может. КНР ведь тоже актуальная информация для обучения нейросетей нужна, а Украина с ней точно не поделится.
Запад, несмотря на все рассуждения о морали и этичности подобных технологий, разработки не прекращает ни на минуту. Им останавливаться просто нельзя: они от Поднебесной прилично отстают.
Так что нам надо кооперироваться с союзными странами, смотреть, что у кого есть полезного из материально‑технической базы, и совместно внедрять нейросети в военную промышленность опережающими темпами, ну раз уж такая геополитическая ситуация сложилась.
Беларусь — страна небольшая, но у нас есть достаточно серьезные военные производства, обеспечивающие нашу безопасность и приносящие существенные средства в бюджет. Упустить сейчас возможность занять одну из стартовых позиций среди производителей вооружений нового типа было бы просто преступлением. Эта сфера развивается крайне стремительно, а все возможности для входа, учитывая наших союзников, в настоящий момент у нас имеются.