«В глубоком тоннеле под ананасовой плантацией — на бывшем подземном авиазаводе эпохи Перл-Харбора — я сидел за терминалом, откуда имел практически неограниченный доступ к средствам коммуникации почти каждого мужчины, женщины или ребенка, который хоть раз набрал телефонный номер или коснулся компьютерной клавиатуры».
Эдвард Сноуден, «Личное дело».
В начале позапрошлого века французский математик Пьер-Симон Лаплас предложил любопытный мысленный эксперимент. Вообразите некое разумное существо, способное воспринять полную информацию о положении и о скорости движения каждой частицы во Вселенной. Такое существо, которое впоследствии окрестили демоном Лапласа, должно быть в состоянии не только достоверно реконструировать всю историю Вселенной с момента ее возникновения, но и уверенно предсказать все ее дальнейшее развитие вплоть до конца времен. Для демона Лапласа, обладающего абсолютно точными и предельно полными данными о каждом отдельном объекте нашего мира — от огромных галактик до мельчайших атомов — не останется никаких непознанных тайн или неразрешимых загадок ни в далеком прошлом, ни в столь же отдаленном будущем.
Многочисленные оппоненты французского математика, разумеется, незамедлительно оспорили его логику. Они апеллировали к принципу свободы воли, присущей, как минимум, сложно организованным биологическим организмам, а тем более — человеческим существам. Уже в ХХ столетии в дискуссию включился Альберт Эйнштейн; он косвенно поддержал каузальный детерминизм Лапласа, заявив, что «Бог не играет в кости», то есть, что разнообразные законы мироздания должны так или иначе объединяться в стройную «общую теорию всего», имеющую универсальную объяснительную и предсказательную силу.
Однако сторонники свободы воли не сдавались. Скоро они обрели неожиданную поддержку в виде квантовой механики, включающей знаменитый «принцип неопределенности» Вернера Гейзенберга. Впоследствии «принцип неопределенности» получил развитие в ряде фундаментальных научных исследований, начиная от формулы «неравенства Джона Белла» и кончая экспериментами с «запутанными» фотонами, проведенными уже в нашем столетии Аленом Аспе, Джоном Клаузером и Антоном Цайлингером. В итоге демон Лапласа на данный момент оказался окончательно изгнанным из микромира. А если демону нечего делать в микромире, то и его пребывание в макромире имеет мало смысла.
Антон Колонин:
От GPT к AGI — взлет или посадка?
Конечно же, Лаплас и его современники вели речь лишь об умозрительном эксперименте, иллюстрирующем логику каузального детерминизма в рамках общепринятой тогда ньютоновской механики. Через сто лет после своего появления демону Лапласа пришлось столкнуться с недоступным Ньютону квантовым универсумом, где действуют совершенно иные законы и иные каузальные связи. Однако ни в XIX, ни даже в XX в. никто не мог даже вообразить, что демон Лапласа способен материализоваться и шагнуть со страниц научных трудов в физическую реальность.
На пути такой материализации стояли два, казалось бы, непреодолимых препятствия. Во-первых, принципиально невозможно собрать исчерпывающую информацию обо всех бесчисленных объектах Вселенной (особенно, если исходить из того, что Вселенная бесконечна во времени и в пространстве). Во-вторых, даже если это и было бы возможным, то обработка и систематизация такого объема сырых данных остается заведомо непосильной задачей для любого реального или воображаемого существа, за исключением разве что непостижимого внерационального Высшего Разума.
В целом, применительно к бесконечной Вселенной, эти ограничения по-прежнему остаются в силе, и едва ли могут быть преодолены даже в каком-то очень отдаленном будущем. Но что, если редуцировать Вселенную до человеческого сообщества в масштабах одной, отдельно взятой планеты и несколько снизить планку требований к предсказательной силе демона Лапласа? В этом случае демон сегодня уже не кажется исключительно абстрактной теоретической конструкцией, плодом прихотливого воображения изобретательных математиков или пытливых философов. Стремительное развитие всемирной сети Интернет создает принципиальные пусть даже пока полностью не реализованные — возможности знать все и обо всем в любой произвольно выбранный момент времени. А складывающиеся на наших глазах технологии искусственного интеллекта (ИИ) должны позволить оперативно и адекватно обработать, систематизировать и обобщить собранный всемирной сетью Интернета колоссальный улов самых разнородных данных.
Каждый из этих двух компонентов по отдельности недостаточен для материализации демона Лапласа. Интернет сегодня представляет собой огромный океан отрывочной, далеко не всегда достоверной и слабо систематизированной информации. Уверенно ориентироваться в этом безбрежном океане очень и очень нелегко любому пользователю, даже если он опирается на поддержку самых продвинутых поисковых систем и использует самые современные фильтры. К тому же наиболее ценная и структурированная информация может оказаться закрытой для общего доступа, и надо привлекать целые армии хакеров для взламывания защиты этих заблокированных информационных ресурсов. Бывший сотрудник ЦРУ и АНБ Эдвард Сноуден, сидя в своем тоннеле под ананасовой плантацией, теоретически мог располагать любыми данными, циркулирующими во всемирной сети, но всезнающим сверхразумом благодаря этому доступу он все же не стал.
С другой стороны, ИИ без Интернета, то есть без доступа к отрытой информационной макросреде, имеет свои жесткие ограничения. В сущности, ограничения автономного кремниевого мозга ничем принципиально не отличаются от ограничений, присущих мозгу белковому. Конечно, в чем-то ИИ уже превзошел человеческий интеллект: если в него загрузить соответствующие программы, то он и в автономном режиме будет способен уверенно обыграть в шахматы любого гроссмейстера-человека. Наверное, автономный ИИ вполне годится для того, чтобы более эффективно, чем человек, управлять системами наведения баллистической ракеты или даже траекторией движения космического корабля. Тем не менее эти способности еще не превращают ИИ во всеведущего демона Лапласа.
Фундаментальная разница между белковым и кремниевым интеллектом состоит в том, что первый не может быть напрямую подсоединен ко всемирной паутине Интернета (по крайней мере, на данный момент, пока киборги еще остаются персонажами произведений жанра научной фантастики), а вот второй — может. ИИ, помноженный на Интернет, потенциально способен обрести поистине дьявольское могущество, поскольку этот симбиоз свободен от ограничений, присущих двум составляющим его компонентам.
Разработанный компанией OpenAI чат-бот GPT-4 (Generative Pre-trained Transformer) — это, конечно, всего лишь микроскопический эмбрион демона Лапласа, не более чем личинка будущего сверхразума. Но этот эмбрион развивается с завидной скоростью, уже превратившись в самый быстрорастущий ИИ-сервис в истории. К тому же было бы странным предположить, что в этом направлении работает только OpenAI; куда более вероятно, что другие, возможно более совершенные эмбрионы демона Лапласа, уже выращиваются в секретных лабораториях многих гигантов ИТ-индустрии.
Классический демон Лапласа, при всем своем могуществе, был лишь отстраненным наблюдателем и беспристрастным регистратором всей совокупности процессов, протекающих во Вселенной. Его материализовавшийся двойник делает свои первые, пока еще неуклюжие шаги в физической реальности уже не как сторонний наблюдатель, но и как активный участник. Например, нейросети все шире используются в маркетинге, новостной журналистике, избирательных кампаниях, предотвращении и расследовании преступлений, в медицинской и судебной практиках, в спекулятивных операциях с ценными бумагами и т. д. Много говорят и об использовании нейросетей в написании литературных опусов, в сочинении музыкальных произведений и в подготовке книжных иллюстраций. Но, наверное, самые широкие горизонты для демона Лапласа открываются в сфере разведки — коммерческой, финансовой, военной, научно-технической, политической и любой другой.
Что служило главными ограничителями эффективности любой разведывательной деятельности на протяжении веков и даже тысячелетий? Во-первых, постоянный дефицит достоверной информации об объекте разведки, который был не склонен делиться такой информацией с противником. Во-вторых, отсутствие надежных алгоритмов обработки и верификации полученных тем или иным способом сырых данных. Противостояние разведок, как правило, шло вдоль тонкой линии, разделяющей информацию и дезинформацию, проверенные данные и домыслы, утверждения и допущения. На этой линии человеческий опыт, воображение и интуиция нередко оказывались решающими аргументами, предопределяющими победу или поражение. ИИ, помноженный на Интернет, если не полностью решает обе вышеозначенные задачи, то, во всяком случае, переводит их в иное измерение, автоматизируя как сбор, так и первичную обработку разведывательной информации.
Одновременно нейросети позволяют вывести производство и распространение дезинформации на качественно новый, более высокий уровень, фактически стирая грань между реальным и воображаемым, между фактами и мнениями, между правдой и ложью. В результате снижается значение ранее совершенно незаменимого «человеческого фактора», уходит в прошлое романтика эпохи «супершпионов» типа Джеймса Бонда, и разведка постепенно превращается из захватывающего поединка человеческих интеллектов в почти незаметную внешнему наблюдателю, но не менее ожесточенную битву высоких технологий.
«Кто владеет информацией, тот владеет миром». Авторство этой фразы приписывают Натану Ротшильду, основателю английской ветви знаменитого клана европейских финансистов, который высказал данную мысль примерно в то же время, когда Пьер-Симон Лаплас породил своего демона. Ротшильд первым в Лондоне узнал о поражении Наполеона при Ватерлоо 18 июня 1815 г. Монополия на эту важнейшую разведывательную информацию сохранялась у предприимчивого банкира всего один день, но за этот день он успел с помощью в общем-то весьма нехитрых операций на Лондонской бирже заработать около сорока миллионов фунтов, что лишь немного уступало всему военному бюджету страны за этот год.
Натан Ротшильд получил данные об исходе сражения в Бельгии с помощью своих информаторов на поле боя и голубиной почты — самой оперативной связи начала XIX в. Он не мог знать, как перемещался на поле боя каждый отдельный солдат или офицер армий Наполеона, Веллингтона и Блюхера, какова была траектория каждого снаряда или пули. Для решения своих задач — финансовых спекуляций — Ротшильду было достаточно «бинарного» знания результатов сражения при Ватерлоо, исход которого для большинства наблюдателей оставался неясным до последнего момента.
Николай Болошнев:
Мечтает ли ChatGPT о Нобелевской премии?
А теперь представьте себе устройства, дающие возможность автоматизированной и качественной обработки неограниченно больших информационных массивов, практически недоступных для традиционной «ручной» обработки. Бескрайнее информационное поле обрабатывается уже не примитивной ручной мотыгой, но современным высокопроизводительным и полностью автоматизированным комбайном. Нейросеть не пропускает ни одного колоска, не теряет из виду ни одного зерна, обеспечивая идеальную сохранность информационного урожая. Это означает, что современный Ротшильд мог бы рассчитывать не только на «бинарный» ответ на вопрос, кто все-таки победил при Ватерлоо, но и на самые точные данные о потерях каждой из сторон, о сохранившихся резервах, о позициях отдельных подразделений на момент окончания сражения и т. п. Естественно, наличие такой информации, наряду с данными о военных и экономических потенциалах участников конфликта, позволило бы достоверно прогнозировать дальнейший ход кампании 1815 г. и даже будущее Европы после наполеоновских войн.
Представьте себе устройства, дающие возможность собирать и систематизировать максимально разнородные данные и генерировать выводы и обобщения практически мгновенно. У нейросети нет перепадов настроения, она не нуждается во вдохновении или поощрении. Нейросеть работает в режиме 24/7, у нее нет выходных и праздников, она не может заболеть или уехать в отпуск. Оперативность реакции нейросети на быстро меняющуюся внешнюю среду может оказаться главным условием успеха, подобно тому, как опережение Ротшильда на один день других игроков на Лондонской бирже превратило его в богатейшего подданного Георга III.
Представьте себе устройства, полностью исключающие политические пристрастия, факторы корпоративной лояльности и карьерных устремлений. ИИ не будет подгонять свои выводы под уже принятые вышестоящим начальством решения. Нейросети нельзя подкупить, соблазнить перспективами быстрого служебного роста, равно как и нельзя запугать угрозой выговора или увольнения. В обозначенных пределах ИИ будет давать объективную картину происходящего и вытекающие из этой картины реалистические предложения. Понятно, что конечное оформление результатов работы ИИ будет делаться все-таки людьми, но с течением времени роль «человеческого фактора», несомненно, будет снижаться.
Наконец, представьте себе устройства, которые обладают беспрецедентными возможностями взламывать любые системы защиты информации быстрее и надежнее самых продвинутых хакеров, а в не столь далеком будущем — вообще сделают бессмысленным любое кодирование информации. Это открывает доступ практически ко всем информационным ресурсам, имеющимся в Интернете. Приоритеты разведывательной работы будут смещаться в сторону стратегий проникновения в полностью изолированные от Интернета информационные системы, а приоритеты контрразведки — в пресечение такого проникновения.
Постепенное формирование такого явления как «интернет вещей» открывает новые, уже практически безграничные возможности для разведывательной деятельности, вооруженной ИИ. Еще полтора десятилетия назад количество устройств, подключенных к Интернету, превысило численность населения Земли. Доступ нейросетей к десяткам, сотням миллиардов, а возможно и триллионам объектов, от бытовой кофеварки или тостера до орбитальной космической станции или системы управления дорожным движением миллионного мегаполиса, не оставляет более современному человеку пространства для какой-либо приватности.
Материализовавшийся демон Лапласа будет не только знать все о состоянии здоровья, привычках и предпочтениях, образе жизни, моделях потребления и круге общения любого человека на планете, но он окажется в состоянии буквально отслеживать в режиме реального времени каждый момент каждого дня этого человека — от звонка будильника утром, до поворота выключателя прикроватного ночника вечером. Вопрос лишь в том, как процеживать этот океан информации, добывая из него драгоценные крупицы нужного знания. И тут новые когнитивные возможности нейросетей, которые складываются буквально на наших глазах, окажутся поистине незаменимыми.
Никита Соловьев:
Роль генеративных моделей ИИ в войне против истины
Итак, продолжающаяся гонка разведок во все большей степени превращается из поединка разведчиков и контрразведчиков в битву искусственных интеллектов. Страны, располагающие современными нейросетями, неизбежно получают в свое распоряжение значительные преимущества по сравнению со странами, лишенными доступа к таким сетям. А это, в свою очередь, означает, что предпринимаемые время от времени попытки ввести мораторий на разработку новых систем ИИ или договориться о правилах его использования, по всей видимости, обречены на неудачу, даже если они исходят от таких авторитетных личностей как Илон Маск и Стив Возняк.
Основа ИИ — современные «продвинутые» микропроцессоры. Это — одна из причин, по которым конкуренция в разработке и в производстве продвинутых процессоров неизбежно станет одним из важнейших направлений технологической конкуренции между США и Китаем. А поскольку третьи страны едва ли в состоянии успешно соперничать с двумя технологическими сверхдержавами в этой сфере, этим странам придется так или иначе опираться на разведывательный потенциал, накапливаемый в Вашингтоне или в Пекине. Автономия таких разведывательных структур как MI6 или Моссад неизбежно будет снижаться, и международные отношения в их информационно-техническом измерении будут приобретать все более четко выраженный биполярный характер.
Примечательно, что умозрительная конструкция, созданная французским математиком два века назад, получила название «демона Лапласа». Не ангела, пророка или демиурга, а именно демона. Значит, уже тогда допущение существования абсолютного рационального всезнания воспринималось большинством мыслящих людей негативно — не как потенциальная возможность, а как потенциальный вызов. Человеку не хочется жить в запрограммированном и детерминированном мире, для большинства представителей вида Homo Sapiens идея свободы воли — не пустая демагогия, а одна из важнейших мотиваций человеческой деятельности.
В равной степени человеку трудно отказаться от права на частную жизнь, не попадающую в поле зрения нейросетей Большого брата, и неважно — выступает ли этот родственник от лица государства с требованиями политической лояльности или же от лица корпоративного сектора, навязывающего потребителю свой товар или услугу. Поэтому пришествие демона Лапласа в наш мир едва ли пройдет мирно и безболезненно.
Впервые опубликовано в журнале «Невидимое измерение» №1, 2023.