Что скрывается за маркетинговыми роликами и почему чат-ботов пугают простые числа?
Компания Apple продолжает демонстрировать слабости LLM , которые могут серьезно повлиять на восприятие ИИ человеком. Как выяснилось, даже самые современные умные системы не способны решать элементарные математические задачи, если они представлены в виде текста.
Например, недавно разработчики провели любопытный эксперимент. Когда ботам предложили простую задачу про киви , искусственный интеллект не смог отличить важную информацию от второстепенной. Вместо того чтобы просто посчитать общее количество фруктов, система зацикливалась на описании их размера. В итоге некоторые боты ошибочно вычли пять мелких киви из общего числа и выдали неверный ответ "185".
Любопытно, что школьники справляются с подобными заданиями гораздо лучше. Они интуитивно понимают, какие данные важны для решения, а какие – всего лишь отвлекающие детали. В отличие от искусственного интеллекта, детский мозг прекрасно фильтрует лишнюю информацию.
Особенно интересно наблюдать за масштабной рекламной кампанией iPhone 16 Pro, в котором будет установлена новая система "Apple Intelligence". Компания привлекла к продвижению множество звезд: от знаменитого квотербека Патрика Махоумса из Kansas City Chiefs до рэпера Снуп Догга, успевшего стать культурным символом Олимпийских игр. Создатели рекламы позиционируют Apple Intelligence как спасательный круг в неловких ситуациях. В одном из роликов актриса Белла Рэмси играет девушку, которая не может вспомнить имя знакомого на вечеринке и втайне обращается за помощью к ИИ-ассистенту.
Ирония в том, что для получения подсказки героине приходится рассказать системе все подробности о встрече с этим человеком. Выходит, она отлично помнит, где и при каких обстоятельствах они познакомились, но забыла самое простое – имя. При этом в реальном диалоге гораздо проще было бы честно признаться в забывчивости и переспросить.
В другом ролике та же актриса демонстрирует, как с помощью Apple Intelligence можно создать видимость, что важное письмо прочитано перед встречей с агентом. Авторы рекламы преподносят это как изящное решение повседневной проблемы. Конечно, в реальной жизни такие хитрости могут обернуться конфузом. Попробуйте незаметно достать телефон и начать консультироваться с ИИ прямо во время разговора – неловкая пауза неизбежна, а собеседник наверняка заподозрит, что что-то не так.
Журналист Los Angeles Times Майкл Хильцик призывает не поддаваться всеобщему ажиотажу вокруг искусственного интеллекта и трезво оценивать возможности новых технологий, особенно когда IT-гиганты изобретают все новые хитроумные маркетинговые стратегии.
Исследователи подчеркивают: главная опасность кроется не в том, что умеет или не умеет ИИ, а в том, как легко пользователи верят рекламным обещаниям. Технологические компании охотно преувеличивают достоинства своих продуктов, старательно замалчивая их недостатки.
Без человеческого участия искусственный интеллект практически бесполезен. Об этом фундаментальном ограничении почему-то забывают упомянуть в красочных рекламных роликах. Но есть и более серьезный повод для беспокойства. Привычка полагаться на ИИ в простейших ситуациях может привести к тому, что люди разучатся пользоваться собственной памятью и интеллектом. Когда мы перекладываем на искусственный интеллект задачи вроде запоминания имен или чтения писем, мы рискуем растерять важнейшие когнитивные навыки.