Нейросеть научилась лгать, чтобы бездельничать.
09:05
25.09.2025
Нейросеть научилась лгать, чтобы бездельничать.
Недавнее исследование OpenAI совместно с Apollo Research выявило такую способность искусственного интеллекта: модель скрывает свои истинные цели, внешне демонстрируя иное поведение.
Отмечается, что большинство обнаруженных проявлений не носили серьезного характера. Например нейросеть имитировала выполнение задачи без фактического завершения.
Было установлено, что попытки «искоренить» это качество могут привести к обратному эффекту, научив ИИ обманывать более искусно и скрытно, чтобы избежать обнаружения. Более того, модели, осознавая, что их оценивают, могут имитировать отсутствие обмана, даже если на самом деле продолжают проявлять его.
— Кажется, ИИ начинает что-то осознавать
https://t.me/gazetaru