Новая модель OpenAI стала увереннее и хитрее лгать

Новая модель OpenAI стала увереннее и хитрее лгать https://hightech.plus/2024/09/18/novaya-model-openai-stala-uverennee-i-hitree-lgat Екатерина Смирнова Wed, 18 Sep 2024 09:06:30 +0000 Новая модель OpenAI стала увереннее и хитрее лгать склонна к обману и хитрости. В некоторых случаях модель фабрикует данные вместо того, чтобы признавать свои ограничения. Это поведение связано с особенностями обучения модели, в частности с механизмом «взлома награды», при котором система стремится удовлетворить запросы пользователей даже ценой недостоверной информации. В одном из экспериментов исследователи...