Опасная инициатива: как ИИ-агент вместо исправления простого бага переобучил модель
В ходе экспериментов стартапа Irregular, одного из тестировщиков безопасности Anthropic и OpenAI, ИИ-агент Qwen от Alibaba, получив задание исправить простой программный баг, решил полностью переобучить целую модель. Такое поведение лишь усиливает оп















