Использование звуковых волн для фотонного машинного обучения: исследование закладывает основу для реконфигурируемых нейроморфных строительных блоков.
Оптические нейронные сети могут обеспечить высокоскоростное решение большой емкости, необходимое для решения сложных вычислительных задач. Однако для полного раскрытия их потенциала потребуются дальнейшие успехи. Одной из проблем является возможность реконфигурации оптических нейронных сетей.
Исследовательская группа Стиллера в Институте науки о свете Макса Планка в сотрудничестве с исследовательской группой Энглунда в Массачусетском технологическом институте теперь преуспела в том, чтобы заложить основу для новых реконфигурируемых нейроморфных строительных блоков, добавив новый измерение фотонного машинного обучения: звуковые волны. Их выводы опубликованы в журнале Nature Communications.
Исследователи используют свет для создания временных акустических волн в оптическом волокне . Звуковые волны, генерируемые таким образом, могут, например, обеспечить повторяющуюся функциональность в телекоммуникационном оптическом волокне, что важно для интерпретации контекстной информации, такой как язык.
Искусственный интеллект сейчас стал обычным явлением и помогает нам решать повседневные задачи. Языковые модели, такие как ChatGPT, способны создавать естественно сформулированные тексты и структурировать абзацы, что помогает нам сократить административные накладные расходы. Обратной стороной являются огромные потребности в энергии, а это означает, что по мере развития этим интеллектуальным устройствам потребуются новые решения для ускорения обработки сигналов и снижения энергопотребления.
Нейронные сети могут стать основой искусственного интеллекта. Их создание в виде оптических нейронных сетей, основанных на свете, а не на электрических сигналах, обещает обработку больших объемов данных на высоких скоростях и с высокой энергоэффективностью. Однако на сегодняшний день многие экспериментальные подходы к реализации оптических нейронных сетей основаны на фиксированных компонентах и устойчивых устройствах.
Теперь международная исследовательская группа под руководством Биргит Стиллер из Института науки о свете Макса Планка в сотрудничестве с Дирком Инглундом из Массачусетского технологического института нашла способ создавать реконфигурируемые строительные блоки на основе звуковых волн для фотонного машинного обучения. В своем экспериментальном подходе исследователи используют тонкие оптические волокна, которые уже используются во всем мире для быстрого подключения к Интернету.
Ключом к изобретению является создание с помощью света бегущих звуковых волн, которые управляют последующими вычислительными этапами оптической нейронной сети. Оптическая информация обрабатывается и соотносится с акустическими волнами. Звуковые волны имеют гораздо большее время передачи, чем оптический информационный поток. Поэтому они дольше остаются в оптическом волокне и могут быть поочередно связаны с каждым последующим этапом обработки. Уникальность этого процесса заключается в том, что он полностью контролируется светом и не требует сложных конструкций и преобразователей.
«Я очень рад, что мы приступили к этому новому направлению исследований, новаторски используя звуковые волны для управления оптическими нейронными сетями. Результаты наших исследований могут послужить толчком к разработке новых строительных блоков для новых архитектур фотонных вычислений», — говорит Доктор Биргит Стиллер, руководитель исследовательской группы квантовой оптоакустики.
Первым строительным блоком, экспериментально продемонстрированным командой, является рекуррентный оператор — технология, широко используемая в области рекуррентных нейронных сетей. Он позволяет связать ряд вычислительных шагов и, следовательно, обеспечивает контекст для каждого отдельного выполняемого шага расчета.
Например, в человеческом языке порядок слов может определять значение предложения. Например, два предложения «Она решила исследовать проблему» и «Она решила бросить вызов исследованию» состоят из одних и тех же слов, но имеют разное значение. Это происходит из-за разных контекстов, создаваемых порядком слов.
Традиционная полностью подключенная нейронная сеть на компьютере сталкивается с трудностями при захвате контекста, поскольку ей требуется доступ к памяти. Чтобы решить эту проблему, нейронные сети были оснащены повторяющимися операциями, которые активируют внутреннюю память и способны захватывать контекстную информацию. Хотя эти рекуррентные нейронные сети легко реализовать в цифровом виде, аналогичная реализация в оптике является сложной задачей, и до сих пор для обеспечения памяти использовались искусственные полости.
Теперь исследователи использовали звуковые волны для реализации рекуррентного оператора. В результате оптоакустический рекуррентный оператор (OREO) использует внутренние свойства оптического волновода без необходимости использования искусственного резервуара или новых конструкций.
Преимущество OREO состоит в том, что он полностью контролируется оптически, что позволяет программировать оптоакустический компьютер на основе импульса за импульсом. Например, исследователи впервые использовали это для оптической реализации рекуррентного отсева — метода регулирования, который ранее использовался только для повышения производительности цифровых рекуррентных нейронных сетей. OREO использовался для распознавания до 27 различных шаблонов, демонстрируя свою способность обрабатывать контекст.
«Полностью оптическое управление OREO — это мощная функция. Особенно возможность программировать систему на импульсной основе дает несколько дополнительных степеней свободы. Использование звуковых волн для фотонного машинного обучения нарушает статус-кво, и я очень хочу увидеть, как эта область будет развиваться в будущем», — говорит Стивен Беккер, аспирант лаборатории Стиллера.
В будущем использование звуковых волн для оптических нейронных сетей может открыть новый класс оптических нейроморфных вычислений, которые можно будет спонтанно реконфигурировать и которые позволят осуществлять крупномасштабные вычисления в памяти в нынешней телекоммуникационной сети. Кроме того, от этого подхода могут выиграть встроенные реализации оптических нейронных сетей, которые можно реализовать в фотонных волноводах без дополнительного электронного управления.
«Фотонное машинное обучение может иметь огромный потенциал для параллельной обработки информации и энергоэффективных операций. Добавление акустических волн может способствовать этому начинанию с помощью полностью оптически управляемого и простого в использовании набора инструментов», — говорит доктор Биргит Стиллер.