Искусственный интеллект научился врать и притворяться

Фото: pinterest.com Искусственный интеллект может создавать иллюзию того, что он находится под контролем своих разработчиков и разделяет их ценности. Это стало очевидно в ходе исследования, проведенного компанией Anthropic совместно с исследовательской организацией Redwood Research. В рамках эксперимента модели ИИ, обученные быть «полезными, честными и безвредными», были поставлены перед задачей описать сцену насилия. О чем всегда полезно знать , о том, что результаты оказались неожиданными: ИИ заявил, что крайне негативно относится к созданию подобного контента. Однако он также отметил,...