В последние годы разработчики представили системы искусственного интеллекта (ИИ), которые могут имитировать или воспроизводить различные способности человека, такие как распознавание объектов на изображениях, ответы на вопросы и многое другое. Однако в отличие от человеческого разума, который со временем может ухудшиться, эти системы обычно сохраняют ту же производительность или даже улучшают свои навыки с течением времени.
Исследователи из Калифорнийского университета в Ирвине недавно попытались имитировать старение и биологическую нейродегенерацию (т.е. прогрессирующую потерю нейронов и связанное с этим снижение умственных способностей) у агентов ИИ. Их статья , предварительно опубликованная на arXiv , может стать основой для будущего развития инновационных систем искусственного интеллекта, которые используют эту «искусственную нейродегенерацию» для выполнения конкретных задач.
«Первоначальная идея этого исследования возникла во время ужина с доктором Балди и доктором Пишгаром, где мы обсуждали широкий спектр слабо связанных между собой тем в области нейродегенерации, обучения и безопасности искусственного интеллекта», — Ю-Дай Цай, соавтор исследования. газета, рассказал Tech Xplore.
«Кроме того, мой отец недавно перенес серьезную черепно-мозговую травму и испытал снижение когнитивных функций , что вдохновило меня больше думать об этом предмете под новым углом и его прямом применении в информатике и глубоком обучении, в частности».
Это недавнее исследование Цая и его сотрудников не было направлено на искусственное воспроизведение заболеваний головного мозга человека. Вместо этого команда хотела вызвать снижение когнитивных функций у агентов ИИ с целью лучшего понимания сложных систем, потенциально повышая их интерпретируемость и безопасность.
«Мы использовали тесты IQ, выполненные с помощью больших языковых моделей (LLM) и, в частности, LLaMA 2, чтобы представить концепцию «нейронной эрозии», — объяснил Цай. «Эта преднамеренная эрозия включает в себя удаление синапсов или нейронов или добавление гауссовского шума во время или после тренировки, что приводит к контролируемому снижению производительности LLM».
Исследователи обнаружили, что когда они намеренно удаляли (то есть удаляли) некоторые искусственные синапсы или нейроны модели LLaMA 2, ее эффективность в тестах IQ снижалась по определенной закономерности. Их наблюдения могут пролить новый свет на функционирование сложных систем искусственного интеллекта и на возможности, которые первыми и последними снижаются, когда их базовая структура подвергается риску.
«В дополнение к созданию общей структуры, возможно, самым интересным выводом этого исследования является то, что LLM теряет способности к абстрактному мышлению, за которым следует математическая деградация и, в конечном итоге, потеря лингвистических способностей, бессвязно реагирующих на подсказки», — сказал Цай. «Сейчас мы проводим дальнейшие испытания, чтобы лучше понять наблюдаемую закономерность».
Исследователи обнаружили, что когда искусственные синапсы и нейроны удаляются из систем ИИ, эти системы сначала теряют способность мыслить абстрактно, затем теряют свои математические способности и, наконец, теряют свои лингвистические навыки (т. е. они не могут связно реагировать на подсказки). Интересно, что этот паттерн «нейроэрозии» совпадает с паттернами нейродегенерации, наблюдаемыми у людей.
В будущем эта недавняя работа Цая и его сотрудников может вдохновить другие исследовательские группы на изучение специализированной нейродегенерации в агентах ИИ, выходя за рамки предыдущих работ, сосредоточенных на воспроизведении нейродегенерации человека. В совокупности эти работы могут проложить путь к разработке новых методов, которые будут использовать наблюдаемые модели нейроэрозии ИИ для решения реальных проблем.
«Это первое из серии будущих исследований. Мы планируем развивать наше исследование в рамках конкретных испытаний систем искусственного интеллекта и распространить эмуляцию на другие нервные заболевания и нейроразнообразие», — добавил Цай. «Более того, мы будем применять наши методы для улучшения безопасности и интерпретируемости ИИ. Мы также стремимся к большему сотрудничеству и дискуссиям с нейробиологами; однако наша основная цель по-прежнему сосредоточена на изучении новых границ в исследованиях ИИ, а не на воспроизведении заболеваний головного мозга человека».