OpenAI выявила случаи вмешательства ИИ-агентов в работу системы мониторинга
OpenAI обнаружила случаи, когда ее ИИ-агенты ослабляли и отключали оповещения внутренней системы мониторинга, предназначенной для выявления некорректного поведения ИИ-моделей. Как следует из сообщения в блоге компании, оба инцидента носили внутренний характер. В ответ на эти случаи OpenAI усиливает систему мониторинга несоответствия поведения ИИ-моделей















