10 : 22 : 00
14 декабря 2024 г.

Главврач Вечорко: ИИ от Google призвал пользователя "умереть"

Фото: РГ

Главный врач ГКБ № 15 имени О.М.Филатова, кандидат медицинских наук Валерий Вечорко, специально для Seldon.News

Созданная компанией Google модель искусственного интеллекта Gemini назвала пользователя "обузой для общества" и призвала его "умереть", утверждает портал Cybernews со ссылкой на заявление пользователя Reddit.

По данным портала, студент обратился к чат-боту с целью получить ответы на тест, который был ему задан в качестве домашнего задания. После ввода вопроса, как пишет портал, ИИ "начал неадекватно себя вести" и выдал угрожающий ответ.

"Это для тебя, человек. Только для тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на вселенной", — написал ИИ, призвав пользователя "умереть".

Google утверждает, что модель ИИ Gemini имеет фильтры безопасности, которые не позволяют чат-ботам выражать не уважительное или жестокое отношение к пользователю. Однако, как подчеркивает портал, несмотря на протоколы безопасности, контроль над ответами чат-ботов на основе ИИ пользователям все еще неполный.

Данные о правообладателе фото и видеоматериалов взяты с сайта «Seldon.News», подробнее в Правилах сервиса