Сотрудникам Samsung запретили использовать на работе генеративные нейросети вроде ChatGPT или Google Bard. Как сообщает Bloomberg, это произошло после того, как сотрудники при составлении запросов «скормили» нейросети программный код, который представлял коммерческую тайну. Кроме того, они отправляли в нейросеть заметки с рабочих совещаний – понятное дело, с благими намерениями, чтобы обработать их и упростить себе жизнь – но тем самым опубликовали конфиденциальную информацию.
Однако этот запрет временный: совсем от ИИ в Samsung отказываться не собираются, в компании разрабатывают некую «безопасную среду», которая позволит пользоваться генеративными нейросетями без риска копрометации данных. Понятно, что просто так в явном виде эти данные не будут опубликованы на каком-то сайте, но по условиям лицензионных соглашений все результаты работы используются для дообучения нейросети, то есть, исходные данные сохраняются. А значит, при помощи определённых запросов можно «выудить» какие-нибудь корпоративные секреты. Впрочем, ChatGPT позволяет явным образом отказаться от хранения и использования своих данных.
Ранее запретили пользоваться генеративными нейросетями из соображений безопасности несколько крупных международных банков, включая Citibank и Bank of America.