НОРБИТ обновил собственную большую языковую модель – Norbit GPT. Теперь она еще быстрее интегрируется в ИТ-контур клиента и менее требовательна к инфраструктуре, так как запускается на более бюджетных серверах с GPU (Graphics processing unit, графический процессор). Новая версия дообучена на массиве данных российского законодательства, эффективнее взаимодействует с запросами на естественном языке и меньше галлюцинирует.
Изображение от Freepik
Для версии 2.0 значительно упростили процесс развертывания в цифровом ландшафте компании: решение поставляется в виде docker-контейнера, включая личные кабинеты сотрудника и администратора. Именно on-premise вариант (размещение на серверах заказчика) сейчас в приоритете у большинства клиентов, так как он минимизирует риски утечки персональной и конфиденциальной информации, создает дополнительный уровень безопасности и надежности при обработке данных.
Norbit GPT получила новый раздел для упрощения работы со структурированными или реляционными данными - сложными запросами к аналитическому хранилищу на естественном языке. Кроме того, был добавлен модуль цензурирования и уточнения ответов. С его помощью снижается вероятность галлюционирования модели при генерации текстов. Также он позволяет определять темы, на которые ИИ-ассистент не должен давать ответы.
Нейросеть была дообучена на материалах российского законодательства. Это повышает ее точность в анализе документов, автоматизации юридических процессов, консультировании по правовым вопросам. Пользователи смогут опираться на актуальную информацию для всех изменений и доработок норм и законов.
Дмитрий Демидов, руководитель лаборатории инноваций НОРБИТ:«Технологии в сфере ИИ меняются стремительно. Чтобы оставаться конкурентными, нашим клиентам необходимо быть еще быстрее. Norbit GPT - прекрасный инструмент для такого ускорения. Тем более, что мы сделали модель еще более умной, эффективной, простой в подключении и главное – безопасной».