«Способную рассуждать» нейросеть OpenAI поймали на манипуляциях и лжи

Эксперты обнаружили, что нейросеть не выполняет поставленные условия, но притворяется, что делает все так, как ее попросили. О тестировании новой большой языковой модели пишет The Verge. Эксперты компании Apollo, которая специализируется на вопросах безопасности искусственного интеллекта (ИИ), обнаружили тревожную тенденцию в действиях большой языковой модели o1. Первую нейросеть, которая «способна рассуждать» разработчик ChatGPT компания OpenAI представила на прошлой неделе. Модель o1 использует инновационные методы машинного обучения, включая «цепочку мыслей» — функцию, которая имитирует...