Ученые разработали революционный метод, позволяющий раскрыть принцип работы глубоких нейронных сетей и понять их процесс принятия решений, сообщает SciTechDaily.com.
Исследователи из Университета Кюсю создали новую методику для лучшего понимания того, как глубокие нейронные сети интерпретируют данные и организуют их по категориям. Их открытие было опубликовано в научном журнале IEEE Transactions on Neural Networks and Learning Systems, и направлено на повышение точности, надежности и безопасности искусственного интеллекта.
Глубокие нейронные сети обрабатывают информацию через множество слоев, начиная с входного слоя, который собирает необработанные данные. Скрытые слои анализируют информацию поэтапно, при этом ранние слои определяют простые характеристики, такие как края или текстуры, а более глубокие слои объединяют эти особенности для распознавания более сложных паттернов.
Данило Васконселлос Варгас, доцент факультета информатики и электротехники Университета Кюсю, разработал метод k* распределения, который позволяет четко визуализировать и оценивать, как нейронная сеть интерпретирует данные. Этот метод присваивает каждой точке данных “значение k*”, которое указывает на расстояние до ближайшей несвязанной точки данных.
Новый метод сохраняет многомерное пространство без потери информации и может точно отображать “локальное окружение” вокруг каждой точки данных. Исследователи обнаружили, что глубокие нейронные сети сортируют данные по кластерным, фрагментированным или перекрывающимся схемам.
Метод k* распределения помогает исследователям и законодателям оценивать, как искусственный интеллект организует и классифицирует информацию, выявляя потенциальные слабые места или ошибки. Это способствует процессам легализации, необходимым для безопасной интеграции ИИ в повседневную жизнь.
Конечная цель исследователей – создание систем искусственного интеллекта, которые сохраняют точность и надежность даже при столкновении с вызовами реальных сценариев.